Что мешает внедрению AI в бизнесе

Внедрение AI в бизнес-процессы упирается не только в модели и железо. Часто проблема в качестве, структуре и смысле данных. А еще — в знаниях сотрудников, которые не описаны в системах, но критичны для результата.

➡️ 25 июня HFLabs проведет митап о том, что на самом деле тормозит внедрение AI в больших компаниях.

О чем пойдет речь?
— какие данные нужны AI, чтобы он стал рабочим инструментом;
— почему без качественных данных нейросети не дают результата, которого ждет бизнес;
— как извлекать знания из сотрудников и превращать их в систему;
— как внутренние данные, контексты и жаргон ломают красивые демо.

Спикеры — те, кто такие проекты реализует:
— Николай Трошнев, директор управления корпоративных данных, «Ситилинк»;
— Федор Лежнев, директор департамента информационных технологий, «Альфа-Капитал»;
— и другие.

Митап пройдет без записи, в камерной атмосфере — так разговор честнее.

Кому будет полезно?
CDO, CIO, CTO, архитекторам данных, руководителям data- и AI-направлений и бизнесу, который хочет понять, что стоит за внедрением AI на практике.

📍25 июня, 19:00
Офис HFLabs, г. Москва, рядом с метро «Парк культуры»
Перед началом — фуршет, после — нетворкинг.

Митап бесплатный. Для участия зарегистрируйтесь и дождитесь подтверждения.

AWS решили ультануть и выдали, что вайбкодинг замедляет команды

Больше кода, созданного с помощью ИИ, не делает вашу команду быстрее. На самом деле это может вас замедлить.

Настоящим узким местом никогда не было написание кода. Это релизы, дебаггинг и поддержка.

Они также заявили, что считают, что у каждого PR, написанного ИИ, должен быть ответственный владелец.

Если вы не хотите, чтобы под этим стояло ваше имя, то это некачественная работа.

🫧 🪡

AI-рисерчеры настолько зашеймили Anthropic за скрытые ограничения Fable, что стартап поменял политику менее чем за 48 часов после релиза

После выхода модели на ИИ-полях разгорелся настоящий скандал. Если помните, Anthropic прямо заявляли, что будут открыто переадресовывать запросы, связанные с химией/биологией/кибезбезом на Opus 4.8, сообщая об этом пользователю.

Тут никаких претензий. Но оказалось, что помимо прочего был еще "мелкий шрифт". В системной карте невзначай было написано, что запросы, которые засчитают за попытки дистилляции, будут обрабатываться путем прямого изменения и ухудшения ответов модели. Молча.

На практике же оказалось, что правило касается не только дистилляции, но и в целом почти любой ИИ-разработки. То есть дело обстояло так: инженеры не получали никаких сообщений о срабатывании guardrail, не могли понять, что им урезают возможности и просто получали подпорченные ответы.

Вскрылось все довольно быстро, и возмущению не было предела. Поведение стартапа назвали скрытым саботажем, и дошло до того, что Anthropic публично извинились и заявили, что меняют политику. Теперь, если запрос выглядит как "попытка разработки сильного ИИ", система будет явно сообщать об отказе или переводе запроса на более слабую модель.

Исходную политику Anthropic оправдали тем, что "пытались снизить риск того, что очень сильные возможности модели будут разнесены дальше и станут доступнее для злоумышленников" и сказали, что просто "выбрали неправильный трейд-офф".

Как научиться понимать, что AI-продукт действительно стал лучше?

Когда новый промпт показывает хорошие результаты на нескольких примерах, или после смены модели ответы выглядят убедительнее, то это, конечно, хорошо.

Но настоящий специалист понимает, что это ровно ничего не значит. Эвалы не живут без метрик, тестовых наборов и системной оценки. Без всего этого невозможно сказать, улучшился продукт или вам просто кажется.

18 июня Школа Высшей Математики запускает 5-недельный курс по AI Evals. Его ведет Андрей Киселев, который недавно проводил вебинар про системную оценку качества AI-продуктов, который мы недавно рекомендовали.

На курсе как раз разберут полный цикл работы с оценкой AI-систем: выбор метрик, построение eval-пайплайнов, анализ ошибок, LLM-as-a-judge, работу без размеченных данных и тестирование сложных агентов, RAG-систем и многошаговых диалогов.

Знания будут максимально полезны AI/ML-инженерам, продактам и тимлидам, которые отвечают за качество AI-фич и хотят принимать решения на основе данных, а не субъективных впечатлений. В ближайшие годы это будет ключевой навык (и надежный способ выделяться на собеседованиях).

Старт 18 июня. Для подписчиков Data Secrets действует скидка 25% по промокоду DS25.

Подробности и регистрация -> здесь

Реклама. ООО "Школа Высшей Математики", ИНН 9728100991

Илон Маск стал первым в мире триллионером благодаря IPO SpaceX

IPO состоялось вчера. Цена за акцию составляла 135$, и компании удалось привлечь примерно $75 миллиардов.

Во-первых, это крупнейшее IPO в истории США. Спрос на акции был просто огромный.

Во-вторых, учитывая долю Маска в SpaceX, теперь его состояние оценивается в 1.1 триллион долларов. Чтобы потратить такое состояние за человеческую жизнь (если бы это была наличка, а не бумаги, ха), пришлось бы тратить примерно 13 миллиардов долларов в день.

Скромно.

Мем: в числе прочих доступа к Mythos лишили Андрея Карпаты, который недавно ушел работать в Anthropic R&D

Дело в том, что он не гражданин США.

Лицо исследователя без доступа к объекту исследования представили?

Пошел слух, что за блокировкой Fable стоит Amazon

По версии сразу нескольких изданий именно CEO Amazon Энди Джесси изначально спровоцировал шатдаун модели.

Все началось с обычного внутреннего исследования, в ходе которого рисерчеры Amazon обнаружили какой-то джейлбрейк, который позволял вытащить из Fable информацию, которая «могла бы оказаться полезной в кибератаках».

Исследователи сделали репорт, и Джесси понес его… нет, не в Anthropic, в который Amazon вложили более 8 миллиардов, а американским чиновникам. Ну и – пошло поехало.

Косвенным образом историю подтверждают слова Дэвида Сакса, председателя Совета консультантов президента США по науке и технологиям.

Он заявил, что некий «доверенный партнер» сообщил администрации о возможности опасного джейлбрейка, после чего правительство якобы попросило компанию устранить риск. По этой версии, Anthropic не согласились с тем, что кейс действительно демонстрирует опасность модели, ну а дальше вы знаете.

OpenRouter выпустили API для запуска ансамблей моделей

По сути, это попытка превратить ручную сборку консенсуса моделей в готовый продукт из коробки, и весьма удачная. Работает так:

1. Вы отправляете один запрос в openrouter/fusion, и OpenRouter на своей стороне запускает панель из нескольких моделей, которые отвечают независимо друг от друга.

2. Затем еще одна модель-судья анализирует результаты и выдает на их основе финальный ответ.

3. Стек самих моделей по умолчанию выглядит как (~anthropic/claude-opus-latest, ~openai/gpt-latest, ~google/gemini-pro-latest), а судья – по дефолту первая из них, то есть claude-opus-latest. Также стек моделей и судью можно задать самостоятельно.

То есть, если выбирать модели по умолчанию, Fusion обычно стоит примерно в 4–5 раз дороже, чем один вызов модели. Есть смысл использовать только для очень сложных задач (буст в качестве действительно заметный, если что).

Но с другой стороны, благодаря возможности задать стек самому, это может быть и неплохой способ сэкономить. Например, OpenRouter пишут, что стек (Gemini 3 Flash, Kimi K2.6, and DeepSeek V4 Pro) превосходит соло запуски GPT-5.5 и Opus 4.8, и оказывается примерно в 1% от результатов Fable 5, а стоимость примерно вдвое ниже. Так что пробуем.

Еще из интересного: фича может работать как тул. То есть можно добавить {"type": "openrouter:fusion"} к вызову обычной модели, и она сможет сама как бы обратиться к совету других моделей, когда посчитает нужным.

Документация