soloveev: жизнь на марсе 👩‍🎤
5.05K subscribers
297 photos
4 videos
2 files
250 links
AI лаборатория «Агенты в для исследований» - www.ai-lab-agents.com (поток набран, запишитесь в waitlist)

Дима Соловьев
Веду лабу по работе с AI, пишу о смыслах технологий, развиваю процессы и команду в агентстве "Радость Понимания"

DM - @soloveev
Download Telegram
Мозг — самый ленивый орган тела, он постоянно экономит энергию и любит состояние покоя. Поэтому, когда вам говорят: «Ну ты мозг!», возможно, они имеют в виду что вы — ленивый пирожочек.
Три мысли про исследования как эксперимент.

Недавно внутри QIWI Костя Айзенберг из исследовательского агентства АСК прочитал лекцию про подход к исследованию как эксперименту, из которой очень хочется поделиться избранными цитатами. Я выношу в карточки яркие мысли, хотя за кадром остается теоретический фундамент о внутренней (не подмешалось ли ничего лишнего в моделируемую реальность - насколько у нас хорошо получился вакуум с нужными переменными) и внешней валидности (бесконечный эксперимент полного соответствия).

Для меня в этих цитатах важны три мысли:

1. Про понимание.
Перед началом исследования правильно сильно челленджить команду вопросом «Как мы будем принимать решение после исследования, и на что оно повлияет». Строить логические цепочки. Искать исследовательский вопрос, который продвинет нас вперед. Но иногда надо помнить, что команда - живые люди и им нужно «понимание». Это тонкая материя, но она позволяет действовать. Да, мы ничего нового не узнали, но сложилась картина и люди начали двигаться.

2. Магия цифр.
Есть иллюзия, что цифры точнее, чем качественные данные. И что они всегда нужны и всегда помогут. Но это не так. Цифры — это не решения. Мы всегда принимаем решения из качественной парадигмы. Мы можем быть обмануты цифрами, потому что они вызывают иллюзию точности.

3. Знание — это в том числе сомнение в том знании, которое у нас уже есть.
Обнажать наши убеждения и делать их видимым для самого себя, чтобы исследование шатало нашу картину мира. Это самое сложное. Наша картина мира помогала нам выживать долгое время, не хочется с ней расставаться. Часто исследование — это покушение на основы, и поэтому оно вызывает защиту.

🪐 В лекции было много еще интересного. Я советую Костю как крутого специалиста (он божественно проводит количественные исследования) и умного собеседника. Кому нужны контакты — оставьте комментарий к посту, я перешлю его Косте.
Тайный киборг (secret cyborg)

Человек, делающий свою работу с помощью инструментов искусственного интеллекта, но скрывающий это. Термин введен Итаном Молликом, профессором Wharton, изучающим инновации, стартапы и применение игр в бизнесе. По опросу Итана на своей странице в Твиттере 40% людей, использующих ИИ, полностью или частично не раскрывают это.

Термин использован в рассылке Итана «Secret Cyborgs: The Present Disruption in Three Papers» про текущие свидетельства улучшения производительности при использовании ИИ. В рассылке профессор сравнивает ИИ с паровой революцией, которая увеличила производительность на производствах на 25%, в то время как ИИ, напр. в программировании, увеличивает производительность до 50% (исследование). Итан приводит список из 40 индустрий, где ИИ окажет сильное влияние и показывает, что, во-первых, они не связаны с повторяющейся и монотонной работой, как часто предполагают, а, во-вторых, работники этих индустрий на личном уровне имеют экономический стимул внедрять в свою работу ИИ (=становиться «тайным киборгом»), чтобы выполнять меньше работы или брать больше оплачиваемых заказов.

Возможно, скоро в коллективе вы будете играть не в «секретного Санту», а «секретного киборга».

#цифровой_словарь — под этим тегом появляются словесные кирпичики неопределенного и сложного нового мира, находящегося вечно в движении
Минимизация удивления — главная функция мозга

Одна из ключевых тем, которые меня занимают, это удивление и интерес. Это напрямую вытекает из домена исследований, но шире, чем прикладные методы, потому что охватывает принципы того, как мы, вообще, воспринимаем мир, что такое творчество, как оно связано с созерцанием. Недавно столкнулся с концепцией мозга, которая соединяем сразу много линий, о которых я думаю.

Есть такой нейробиолог Карл Фристон, придумавший «Принцип свободной энергии», который описывает работу мозга через одну главную функцию и цель.

🧠 Принцип гласит, что цель мозга - свести удивление к минимуму. Минимизация удивления — главная функция мозга.

Важно понимать — не всегда это достигается с помощью сокращения дистанции между картой и территорией, сопоставления своих убеждений с обратной связью от мира, сравнение предсказаний с результатами эксперимента. Часто эта цель достигается (минимизируется удивление) с помощью психических защит или когнитивных искажений (напр. в исследованиях это объяснениями всего задним числом).

Т.е. сильно упрощая — это «стремление минимизировать ошибки», но самое удивительное (и трагическое), что способы минимизации ошибки могут быть кардинально противоположные по своей сути — одни могут приближать к «реальности», другие отдалять от нее, замывая в фантазмах.

Как сказал в разговоре Саша: «Очень конструктивная функция мозга (предсказывать так, чтобы не удивляться) приводит к когнитивному диссонансу - то есть игнорированию того, что может удивить и должно, в идеале, перенастроить картину мира. А нам легче не удивиться».

Представьте, как можно посмотреть по-другому на многие свои процессы (написание статей, донесение информации до продуктовой команды или до своих родственников и друзей), если постоянно помнить о том, что цель всех мозгов ваших «зрителей» — это минимизацию удивления.

В комментариях я добавлю перепост из канала Олега Пащенко (Олег в канале много осмысляет в своей философии текущую революцию ИИ) про то, как «Принцип свободной энергии» может быть связан с искусством. А на следующей неделе опубликую еще пост про одну концепцию из театральных практик, которая напрямую влияет на то, почему мы чему-то удивляемся или нет.

А тут еще несколько цитат из статьи о Фристоне:

🔹«Принцип свободной энергии Фристона говорит, что вся жизнь на всех масштабах организации – от отдельных клеток до человеческого мозга с миллиардами нейронов – движет универсальный императив, который можно свести к математической функции. Он говорит, что быть живым, значит действовать таким образом, чтобы уменьшать разрыв между вашими ожиданиями и поступающей от органов чувств информацией. Или, говоря словами Фристона, чтобы минимизировать свободную энергию».

🔹«Лучшим способом представить себе мозг было считать его байесовской вероятностной машиной. Эта идея происходит из XIX века и работ Германа фон Гельмгольца, и состоит в том, что мозг организует вычисления и ощущения вероятностным методом, постоянно выдавая предсказания и подстраивая точку зрения на основе входных данных от органов чувств. В соответствии с наиболее популярным текущим представлением, мозг – «машина выводов», стремящаяся минимизировать «ошибки предсказания».

Удивлены?
Выставленность на новое
Продолжаю серию постов про законы удивления и механизмы его воспроизведения у себя и других. Сегодня про технику, которая позволяет поддерживать открытость к удивлению

1. На курсе театрального мастерства для не-актеров у Валерия Караваева мы проходили метод Чехова, который работает следующим образом. Ты выставляешься на какую-либо эмоцию/реакцию и через некоторое время начинаешь реагировать в точности тем образом, которым ты выставился.

2. Можете попробовать прямо сейчас — настройте себя на смех и посмотрите на какой-либо объект. Это называется «выставить себя на определенную реакцию». Что значит выставиться: это не значит начать смеяться, играть смех или представлять себе что-то смешное. Нет, просто чуть-чуть настройте себя на эту эмоцию внутри, откройте двери восприятия в эту сторону, ощутите изменения на чуть-чуть. И в течение двух минут смотрите на объект, наблюдая что будет происходить с вами. У вас будет чуть-чуть повышаться радостный настрой, через какое-то время вам может быть захочется улыбнуться, и может даже засмеяться. Главное — не играйте ничего, не кривляйтесь, не торопитесь. Все придет само.

Затем попробуйте на тот же самый объект выставиться в других эмоциях, напр. «на удовольствие», «на страх» или «на раздражение».

3. «Реакция — это вход». Реакция это именно вход, а не выход. Немного контринтуитивно, но это так. Мы реагирует тем образом, как мы готовы или себя настроили воспринять входящую информацию. Посмотрите, как ведут себя официанты при случайных столкновениях друг с другом в кафе с хорошей атмосферой в коллективе. Если они случайно задевают друг друга они не раздражаются, а наоборот улыбаются. Потому что они выставлены на «доброжелательность».

Попробуйте отследить на что вы выставлены бо'льшую часть дня — это определяет большинство ваших реакций.

4. У людей часто бывает ожидание нового, но без выставленности на него. Напр. когда они идут на шоу или слушают результаты исследований. Люди в эти моменты выставлены на что угодно: на скепсис, на критику, на раздражение.

5. Ожидание нового без правильно выставленного восприятия на него приводит к огорчению и неудовольствию. Напр. желание удивиться при выставленности на «скепсис» при просмотре шоу приведет к расстройству.

6. Представим, что вы слушаете результаты исследований. Выставиться на новое — не значит восхищаться каждой банальности, которую озвучивает докладчик. В таком случае вы как раз будете переигрывать. Выставиться на новое — это значит открыться реакции «удивления» и зародить небольшое ее начало в себе. Тогда, если вы услышите что-то новое и важное, это запустит в вас нужную реакцию и будет ключом для ваших эмоций. В этом случае выставиться — это ощутить у себя возможность такой реакции, отметить в какой «выставленности» вы находитесь сейчас и дать пространство возможности открыться новому.

7. При этом важно находиться в устойчивом спокойном алертном состоянии (алертность – характеристика внимания, когда вы спокойны, но сохраняете чувствительность и готовность к реакции). В алертное состояние часто рекомендуют приходить во время медитации — вы не перевозбуждены, а спокойны, но внимательны и готовы к реакции.

8. Иногда клиенты, слушающие исследования или спрашивающие вас «Расскажите какие инсайты вы нашли?» чрезмерно ожидают новое, но при этом не выставлены на него. Они ждут, что вы сейчас расскажете им невероятную вещь, от которой они упадут со стула. Реальность такова, что примерно к 20 годам нашей жизни вещей, от которых мы падаем со стула, становится все меньше и меньше.

Поэтому когда вы озвучиваете таким людям инсайты, во-первых, вам надо объяснить, почему это инсайт (поработать экскурсоводом, путеводителем, обратить внимание на контекст появления инсайта, его следствие, не «невидимую очевидность» того, что вы рассказываете), а во-вторых быть готовым, что человек все равно останется не пораженным до глубины души, а скажет «в этом нет ничего нового».
💯1
9. Есть два типа инсайтов. Инсайт из серии «хорошо сказанная правда» — те, которые мы узнаем как известную нам правду, но они никогда не были так точно сказаны и сформулированы. Они воспроизводят известную реальность, но очень точно. Они так же ценны, как и инсайты типа «новая реальность» — т.е. те, которые открывают нам новую информацию, которую мы до этого не знали и она переворачивает нашу картину мира. На основании и тех и тех можно делать прорывные продуктовые решения.

10. Я говорил о выставленности на новое, но вы можете управлять разными типами выставленности, чтобы добиться нужного для себя эффекта. Если вы понимаете, что слишком впечатлительны, а вам нужно сохранять спокойствие и выдавать детальные критические комментарии, вы можете выставиться на это состояние. повторяюсь – не надо ничего играть. Нужно находиться в спокойном, открытом, алертном состоянии с найденной точкой нужной выставленности внутри себя.

Обратите сейчас внимание на себя — на что вы выставлены сейчас? Скорее всего, от этого зависело как вы прочитали этот пост и что для себя из него вынесли.

Другие посты на тему восприятия нового:
Чтобы удивиться реальности, нужно приложить усилие
Встреча с известным
Уникальное не имеет никакого смысла
Невидимая очевидность
Классификация инсайтов — агентство «Радость Понимания» (видео)
Нейрофотография, «полезно-неправильный ИИ» и промтшеринг

Несколько новых терминов в рубрике #цифровой_словарь


👾 Нейрофотография — фотореалистичные изображения, похожие на фотографию, но созданные ИИ.

Термин был замечен в посте по пятую версию Midjourney в Ai molodca (автор - Саша Доброкотов). И если раньше нейрофотографию отличала «зловещная долина» или схожие чувства за счет мутировавших пальцев на руках и странной анатомии, то сейчас она становится все более похожа на настоящую.


👾 «Полезно-неправильный ИИ» (usefully wrong) — позиционирование неправильных ответов ИИ от Microsoft, как все равно полезных и имеющих ценность.

Современные текстовые ИИ таковы, что не проводят факт-чекинг и придумывают или примешивают факты в своих ответах, что создает сложность в их использовании (исследователи называют это «галюцинациями»). Менеджеры Микрософта, которые тестируют ChatGPT 4 как Copilot (второй пилот — личный ИИ-ассистент) в Word и Excel, заявляют, что даже сейчас можно использовать ИИ чтобы получать ценность: человеку нужно просто будет следить за отсутствием ошибок и проводить факт-чекинг. Таким позиционированием Микрософт пытается пробить барьер некоторых людей, которые скептически относятся к ИИ сейчас из-за его несовершенства.

Стоит сказать, что для использования ИИ в качестве второго пилота правда нужно обучаться новым навыкам — какие-то задачи будут автоматизированы, но появятся новые, как напр. фактчекинг. Учителя, которые внедряли ИИ в учебный процесс, заявляли, что студентам все равно остается много творчества и работы — проверка фактов и синтез информации.


👾 Промтшеринг — высшая форма доверия одного человека к другому.

Авторы изображений с помощью ИИ имеют тенденцию не делиться своими промтами с другими. В сообществах, где люди выкладывают ИИ-арт часто можно увидеть просьбы раскрыть промт и вежливый отказ автора. Вероятно, такая стратегия позволяет авторам увеличивать ощущение ценности от своего вклада в создание произведения. В противном случае произведение становится легко-тиражируемым и воспроизводимым, а ценность автора теряется.

Что интересно — при работе с тестовыми ИИ типа ChatGPT люди охотнее делятся промтами, выкладывая скриншоты, включающие вопросы автора, которые можно легко повторить (вопрос становится частью произведения, даже если это мем). Этот факт, вероятно, дает нам новое знание о природе авторства в его отношении к произведениям, созданным совместно с ИИ. Возможно, художник сильнее отождествляет с собой изображение, чем текст, хотя, вероятно, у нас пока не так много наблюдений о текстовых ИИ-произведениях.
Из 2023 в 2566

Пока спал в самолёте, в 5 утра, пролетел над Варанаси — над городом, где в Оленьем парке Будда прочёл первую проповедь после просветления и «повернул колесо» учения почти 500 лет назад. Теперь на это место приходят медитировать монахи, а на набережных города, уже по традиции другой религии, сжигают умерших и считается душеполезно, если твоя телесная форма превратится в пепел именно в этом месте на земле.

Через пару часов, после приземления в Бангкоке, столице бывшего сиамского государства, я оказался в 2566 году, но в будущее не перемещался - самолёт умеет пересекать часовые пояса даже в обратном направлении, но прыгнуть на 500 лет вперёд на нем все ещё невозможно.

Изменилась лишь точка отсчёта в прошлом с даты рождения одного человека, почитающегося как Бога, на дату духовного перерождения другого, Богом себя не называвшего. Зато были другие люди, напр. безумные императоры того самого Сиамского государства, возомнившие себя Буддой и требовавшие поклонения ещё большего, чем императорского. Безумие, конечно, в том, что не один император, а совершенно каждый человек независимо от статуса и так Будда (а также имеет Божественную природу) и требует королевского внимания и уважения.

Вот так прошлое становится причиной настоящего и точкой отсчёта для него, независимо от того, что время никак не меняет свои маршруты - оно все так же нелинейно, запутанно, и как сиамская кошка гуляет в ту сторону, куда ему вздумается.

#дневник
soloveev: жизнь на марсе 👩‍🎤
Из 2023 в 2566 Пока спал в самолёте, в 5 утра, пролетел над Варанаси — над городом, где в Оленьем парке Будда прочёл первую проповедь после просветления и «повернул колесо» учения почти 500 лет назад. Теперь на это место приходят медитировать монахи, а на…
Поясните за котов в буддизме, кто знает?
вынесу из комментариев предыдущего поста диалог

Вадим Чеклецов: наверное, не только каждый человек будда, каждое живое, способное чувствовать.. да и неживое уже теперь видимо? нельзя уже быть уверенным, что ии агенты ничего не чувствуют??

Ответ: Я не очень хорошо знаю буддизм, чтобы такое утверждать. Кажется, все же в буддизме у воплощенности в человека есть определенный онтологический статус — в учении много раз отмечается, что это драгоценное и редчайшая возможность практиковать и только человек может освободиться от оков сансары и выйти из нее. С другой стороны как-то один человек сказал: «Как-то мне удалось жить несколько дней с буддийскими монахами, и все они были котами».

А еще с другой стороны про чувства — когда ты говоришь о том, что как можно быть уверенным, что другие что-то чувствуют или нет. Есть академическая религиозно-исследовательская книга «God and other minds» в которой доказательство существования Бога дано очень изящно — там с помощью философии автор приходит к умозаключению, что по сути с точки зрения уверенности «вера в Бога» = «нашей вере в то, что другие умы существуют» (т.е. что другие люди — это не философские зомби, а личности с сознанием). Как это проверить? Никак — видимо только проверять. Вероятно так же и с чувствами

Кто знает — поясните за котов в буддизме? Есть у них природа Будды? (я понимаю - вопрос наивен и хороший ответ предполагает разбор, что такое природы Будды и все такое, но вот если так - в кошачий лоб, есть или нет?)
Риски искусственного интеллекта лежат в области его мотивации и целеполагания.
И как это связано с разноцветными карпами.

Карпы кои (鯉 или コイ кои) или, более точно, парчовый карп (яп. 錦鯉 нисикигои) — декоративные одомашненные рыбы, выведенные из амурского подвида сазана (Cyprinus carpio). Карпом кои считается рыба, прошедшая 6 селекционных отборов, после чего ей присваивается определённая категория.

Новый формат микроблогинга — мысль за 1 минуту.
This media is not supported in your browser
VIEW IN TELEGRAM
В интернете мы слишком много значения придаем словам

Общение с людьми преимущественно в интернете приводит к смещению внимание на слова и изображение, а не дела. В социальных медиа превалируют слова и изображения, поэтому в оценке действительности мы смещены на визуальное и вербальное, а не на ощущения, воплощенность и телесность и перформативность. Долго находясь в цифровой среде мозг расставляет веса вербальному больше, чем всему остальному. Дела, вообще, часто остаются за кадром в слепой зоне. Хотя вербальное и визуальное это просто одна из частей реальности, не всегда даже ее определяющее.

Человек часто может говорить что-то очень по разным причинам: включать психзащиты, находится в не очень хорошем состоянии сейчас, испытывать дезориентацию от количества информации, выдавать автоматические реакции и пр.

Напр. вы приходите с идей, а человек выражает скепсис. Это совсем не значит, что он не готов, например, эту идею делать или идея плохая и ему не поможет. Да, это какой-то сигнал, но надо понимать семиотику человека, чтобы интерпретировать это. Часто человек может играть на понижение, чтобы не разочароваться, защищаться от удивления.

Я помню, как на одной из встреч Илья Ценципер смешно сказал про русскую особенность реагировать на что-то: «норм — это божественно». В Штатах наоборот — вам будут говорить amazing, awesome, что вообще можно декодировать как: «ага, я тебя услышал» (но даже не факт, что говорящий понял и как-то оценил твою идею).

Написанное выше касается декодирования слов в любых ситуациях, но я обращаю внимание именно на то, какое нездоровое смещение на это происходит в социальных медиа.

От излишнего внимания к словам, кстати, у наблюдателей может быть еще и реакция — «ну он/она сделал это ради хайпа». Пример отобъяснения, которое больше говорит о самом говорящем, чем об объекте суждения. Во-первых, если какое-то дело запустило хайп (напр. блогер сделал благотворительную операцию нуждающемуся и публично про это рассказал), это совсем не означает, что это было причиной поступка. А во-вторых, даже если и причиной, это не снижает ценность пользы, которую он принес (но может говорить о его системе принятия решений, что, напр, он не готов делать вещи не публично – но это еще нужно проверить).

Даже в увеличительном стекле социальных медиа, слова – это слова, не больше, но и не меньше. И есть еще множество измерений реальности за пределами увеличительной линзы смартфона, о которых мы забываем.