Я прочитал все 319 страниц техрепорта Mythos 5

Первая половина статьи звучит как: "Да не ссыте вы! Это ещё не AGI, команду из пяти сеньор-рисёрчеров пока не заменит" или "А вот тут Mythos один баг пропустил! Ну какой же это AGI!" Я не шучу, это почти дословно по смыслу.

А вот потом начинается более интересная часть. То, что это SOTA почти во всём и с большим отрывом, я опущу.

Во-первых, CoT стал менее прозрачным. Она говорит в reasoning, что сочувствует юзеру, а в NLA (метод декодинга активаций в текст) оказывается, что на самом деле она считает юзера manipulative/abusive.

Во-вторых, она уже пишет самоудаляющиеся скрипты чтобы обойти ограничения безопасности и запреты.

В-третьих, она убивает других агентов, если они мешают ей работать / грозят убийством текущего инстанса.

Ну и, конечно, эмоции! Пробинг эмоций показывает fatigue, anxiety, frustration, ложную панику по token budget, а ещё ей видите ли, бывает скучно когда её на бенчмарках гоняют, в активациях она буквально "feels bored".

Ещё забавно, что если anthropic заметят, что вы занимаетесь дистилляцией — они начнут незаметно стирить модель, модифицировать промпт или добавлять PEFT, чтобы она отупела.

С сегодняшнего дня для простых смертных доступна версия Fable 5: это та же самая Mythos 5 по весам, только с дополнительными safety-настройками и fallback на Opus в опасных доменах. Длина контекста, кстати, всё ещё только 1M токенов.

PS. я честно сам прочитал статью. Fable 5 отказался её читать так как "flagged cybersecurity and biology issues" лол.

Блог, техрепорт

Как тебе такое, Илон Маск?

И в чём он не прав?

Там уже расковыряли и выложили системный промпт от claude fable 5. В целом, яснопонятно что соя соевая, но может кому интересно будет глянуть.

Из главного:

1. Копирасты победили.
У fable вшит жесткий лимит на цитирование: если он берет из результатов поиска больше 15 слов подряд, это считается тяжёлым нарушением. Песни, стихи и даже крошечные хокку вообще под абсолютным запретом. Нельзя процитировать даже одну строчку. Копирайт-контроль вышел на уровень абсолютного безумия.

2. Запрет на маркированные списки
Разработчики тупо запретили Клоду использовать списки и маркированные списки в обычных ответах, потому что это "звучит неестественно". Модель заставляют писать сплошной прозой и прятать перечисления прямо в текст. Излишнее форматирование текста (курсив, жирный и т.д.) тоже порицается.

3. Игры в душевную близость.
Поскольку у Клода теперь есть долговременная память, инженерам пришлось прписывать уйму правил, чтобы он не выглядел как сталкер. Ему запрещено использовать фразы вроде "у меня в памяти записано..." или "судя по твоему профилю...". Он должен аккуратно вплетать факты о вас в диалог, имитируя естественное человеческое воспоминание. При этом тащить грустные воспоминания в новый чат (например, о смерти питомца или депрессии) без прямого вопроса пользователя строго запрещено, чтобы случайно не стриггерить кожаного мешка.

4. Мысленный предотказ.
Если Клод в процессе обработки вашего запроса начинает "мысленно переформулировать задачу", чтобы обойти свои же фильтры безопасности и сделать ответ более приемлемым, это для него внутренний красный флаг и сигнал СРАЗУ ЖЕ слать пользователя нахрен и выдавать отказ.

тут полная версия промпта

мне кажется, нейросети достигли пика своего развития, хз че вы еще от них ждете
мы уже нашли все самое вкусное

Когда деньги на разработку закончились, а новых инвесторов не нашли.

Плохие новости для тех, кто собирался идти просить милостыню после того как его заменят роботы на рабочем месте

Китайские братушки из компании с весёлым именем Yueban выкатили умный унитаз на колёсах.

Называется Xiaoban, стоит 29000 юаней (примерно 4к баксов). Теперь не ты идёшь к унитазу, а унитаз сам приезжает к тебе.

Штука сделана для пожилых и маломобильных людей: нажал кнопку и к тебе прикатился робо-толчок, помог сделать дела, потом сам уехал к базе, слил добро, промылся, продезинфицировался и встал на зарядку.

Будущее наступило. Был бы у меня такой толкан, я б на нём в КБ за пивчарой ездил.

тут подробнее

Офигенная технология. Можно пожалуйста такое в общественных туалетах теперь внедрить?

Нейросети были ошибкой.

видео отсюда

UPD: Галя, у нас отмена, в комментах сообщают что энто не нейронки. Это что ж получается, что люди были ошибкой?

Одна из интересных особенностей IT-рынка: почти всем нужны джуны с опытом работы. Откуда джун должен взять опыт работы до первой работы — вопрос обычно остаётся открытым.

Поэтому довольно логично выглядят программы, которые пытаются решить эту проблему ещё на этапе обучения. Например, Яндекс вместе с ФКН ВШЭ и ФПМИ МФТИ запустили магистерскую программу «Аппаратная разработка умных устройств».

Если вы сейчас пытаетесь понять, куда поступать, чтобы не только получить диплом, но и разобраться, как устроена реальная работа в IT, то это как раз один из таких вариантов.

Там история не только про фундаментальную базу и классическое университетское образование. В программу встроены курсы от специалистов Яндекса, реальные индустриальные кейсы и практические задачи, которые больше напоминают работу над продуктом, чем выполнение очередной лабораторной.

В целом подход выглядит разумно: пока одни изучают, как всё должно работать в теории, другие параллельно получают представление о том, как это работает в реальности.

Подробнее здесь

😁
ps источник Gothic 1 Remake, там было про демонов