Нейрофотография, «полезно-неправильный ИИ» и промтшеринг

Несколько новых терминов в рубрике #цифровой_словарь


👾 Нейрофотография — фотореалистичные изображения, похожие на фотографию, но созданные ИИ.

Термин был замечен в посте по пятую версию Midjourney в Ai molodca (автор - Саша Доброкотов). И если раньше нейрофотографию отличала «зловещная долина» или схожие чувства за счет мутировавших пальцев на руках и странной анатомии, то сейчас она становится все более похожа на настоящую.


👾 «Полезно-неправильный ИИ» (usefully wrong) — позиционирование неправильных ответов ИИ от Microsoft, как все равно полезных и имеющих ценность.

Современные текстовые ИИ таковы, что не проводят факт-чекинг и придумывают или примешивают факты в своих ответах, что создает сложность в их использовании (исследователи называют это «галюцинациями»). Менеджеры Микрософта, которые тестируют ChatGPT 4 как Copilot (второй пилот — личный ИИ-ассистент) в Word и Excel, заявляют, что даже сейчас можно использовать ИИ чтобы получать ценность: человеку нужно просто будет следить за отсутствием ошибок и проводить факт-чекинг. Таким позиционированием Микрософт пытается пробить барьер некоторых людей, которые скептически относятся к ИИ сейчас из-за его несовершенства.

Стоит сказать, что для использования ИИ в качестве второго пилота правда нужно обучаться новым навыкам — какие-то задачи будут автоматизированы, но появятся новые, как напр. фактчекинг. Учителя, которые внедряли ИИ в учебный процесс, заявляли, что студентам все равно остается много творчества и работы — проверка фактов и синтез информации.


👾 Промтшеринг — высшая форма доверия одного человека к другому.

Авторы изображений с помощью ИИ имеют тенденцию не делиться своими промтами с другими. В сообществах, где люди выкладывают ИИ-арт часто можно увидеть просьбы раскрыть промт и вежливый отказ автора. Вероятно, такая стратегия позволяет авторам увеличивать ощущение ценности от своего вклада в создание произведения. В противном случае произведение становится легко-тиражируемым и воспроизводимым, а ценность автора теряется.

Что интересно — при работе с тестовыми ИИ типа ChatGPT люди охотнее делятся промтами, выкладывая скриншоты, включающие вопросы автора, которые можно легко повторить (вопрос становится частью произведения, даже если это мем). Этот факт, вероятно, дает нам новое знание о природе авторства в его отношении к произведениям, созданным совместно с ИИ. Возможно, художник сильнее отождествляет с собой изображение, чем текст, хотя, вероятно, у нас пока не так много наблюдений о текстовых ИИ-произведениях.

Из 2023 в 2566

Пока спал в самолёте, в 5 утра, пролетел над Варанаси — над городом, где в Оленьем парке Будда прочёл первую проповедь после просветления и «повернул колесо» учения почти 500 лет назад. Теперь на это место приходят медитировать монахи, а на набережных города, уже по традиции другой религии, сжигают умерших и считается душеполезно, если твоя телесная форма превратится в пепел именно в этом месте на земле.

Через пару часов, после приземления в Бангкоке, столице бывшего сиамского государства, я оказался в 2566 году, но в будущее не перемещался - самолёт умеет пересекать часовые пояса даже в обратном направлении, но прыгнуть на 500 лет вперёд на нем все ещё невозможно.

Изменилась лишь точка отсчёта в прошлом с даты рождения одного человека, почитающегося как Бога, на дату духовного перерождения другого, Богом себя не называвшего. Зато были другие люди, напр. безумные императоры того самого Сиамского государства, возомнившие себя Буддой и требовавшие поклонения ещё большего, чем императорского. Безумие, конечно, в том, что не один император, а совершенно каждый человек независимо от статуса и так Будда (а также имеет Божественную природу) и требует королевского внимания и уважения.

Вот так прошлое становится причиной настоящего и точкой отсчёта для него, независимо от того, что время никак не меняет свои маршруты - оно все так же нелинейно, запутанно, и как сиамская кошка гуляет в ту сторону, куда ему вздумается.

#дневник

Поясните за котов в буддизме, кто знает?
вынесу из комментариев предыдущего поста диалог

Вадим Чеклецов: наверное, не только каждый человек будда, каждое живое, способное чувствовать.. да и неживое уже теперь видимо? нельзя уже быть уверенным, что ии агенты ничего не чувствуют??

Ответ: Я не очень хорошо знаю буддизм, чтобы такое утверждать. Кажется, все же в буддизме у воплощенности в человека есть определенный онтологический статус — в учении много раз отмечается, что это драгоценное и редчайшая возможность практиковать и только человек может освободиться от оков сансары и выйти из нее. С другой стороны как-то один человек сказал: «Как-то мне удалось жить несколько дней с буддийскими монахами, и все они были котами».

А еще с другой стороны про чувства — когда ты говоришь о том, что как можно быть уверенным, что другие что-то чувствуют или нет. Есть академическая религиозно-исследовательская книга «God and other minds» в которой доказательство существования Бога дано очень изящно — там с помощью философии автор приходит к умозаключению, что по сути с точки зрения уверенности «вера в Бога» = «нашей вере в то, что другие умы существуют» (т.е. что другие люди — это не философские зомби, а личности с сознанием). Как это проверить? Никак — видимо только проверять. Вероятно так же и с чувствами

Кто знает — поясните за котов в буддизме? Есть у них природа Будды? (я понимаю - вопрос наивен и хороший ответ предполагает разбор, что такое природы Будды и все такое, но вот если так - в кошачий лоб, есть или нет?)

Риски искусственного интеллекта лежат в области его мотивации и целеполагания.
И как это связано с разноцветными карпами.

Карпы кои (鯉 или コイ кои) или, более точно, парчовый карп (яп. 錦鯉 нисикигои) — декоративные одомашненные рыбы, выведенные из амурского подвида сазана (Cyprinus carpio). Карпом кои считается рыба, прошедшая 6 селекционных отборов, после чего ей присваивается определённая категория.

Новый формат микроблогинга — мысль за 1 минуту.

В интернете мы слишком много значения придаем словам

Общение с людьми преимущественно в интернете приводит к смещению внимание на слова и изображение, а не дела. В социальных медиа превалируют слова и изображения, поэтому в оценке действительности мы смещены на визуальное и вербальное, а не на ощущения, воплощенность и телесность и перформативность. Долго находясь в цифровой среде мозг расставляет веса вербальному больше, чем всему остальному. Дела, вообще, часто остаются за кадром в слепой зоне. Хотя вербальное и визуальное это просто одна из частей реальности, не всегда даже ее определяющее.

Человек часто может говорить что-то очень по разным причинам: включать психзащиты, находится в не очень хорошем состоянии сейчас, испытывать дезориентацию от количества информации, выдавать автоматические реакции и пр.

Напр. вы приходите с идей, а человек выражает скепсис. Это совсем не значит, что он не готов, например, эту идею делать или идея плохая и ему не поможет. Да, это какой-то сигнал, но надо понимать семиотику человека, чтобы интерпретировать это. Часто человек может играть на понижение, чтобы не разочароваться, защищаться от удивления.

Я помню, как на одной из встреч Илья Ценципер смешно сказал про русскую особенность реагировать на что-то: «норм — это божественно». В Штатах наоборот — вам будут говорить amazing, awesome, что вообще можно декодировать как: «ага, я тебя услышал» (но даже не факт, что говорящий понял и как-то оценил твою идею).

Написанное выше касается декодирования слов в любых ситуациях, но я обращаю внимание именно на то, какое нездоровое смещение на это происходит в социальных медиа.

От излишнего внимания к словам, кстати, у наблюдателей может быть еще и реакция — «ну он/она сделал это ради хайпа». Пример отобъяснения, которое больше говорит о самом говорящем, чем об объекте суждения. Во-первых, если какое-то дело запустило хайп (напр. блогер сделал благотворительную операцию нуждающемуся и публично про это рассказал), это совсем не означает, что это было причиной поступка. А во-вторых, даже если и причиной, это не снижает ценность пользы, которую он принес (но может говорить о его системе принятия решений, что, напр, он не готов делать вещи не публично – но это еще нужно проверить).

Даже в увеличительном стекле социальных медиа, слова – это слова, не больше, но и не меньше. И есть еще множество измерений реальности за пределами увеличительной линзы смартфона, о которых мы забываем.

👾 Эффект Элизы — эффект со стороны человека ложно приписывать системе ИИ интеллект, понимание и человеческие эмоции и реагировать на них.
#цифровой_словарь

История:
Явление было названо в честь чат-бота ELIZA, созданного в 1966 году профессором MIT Джозефом Вайценбаумом. ELIZA имитировала разговорные шаблоны психотерапевтов, работая по простому алгоритму. Она распознавала ключевые слова в заявлении пользователя, а затем отражала их в форме простых фраз или вопросов, напоминающих разговор с терапевтом. Если алгоритм давал сбой и не понимал как реагировать на фразы человека, он прибегал к общим фразам, таким как «это очень интересно» и «продолжайте». Это побудило некоторых людей воспринимать ELIZA как обладающую человеческими чертами, эмоциями и пониманием, тем самым повышалась степень доверяя к ней.

Мысли про эффект Э.:
• Машина не должна обладать очень высоким интеллектом, чтобы проявился этот эффект — достаточно простого алгоритма.

• Ключевое, что создавало эффект — иллюзия понимания человеческого языка и способность поддерживать разговор.

• Люди за счет эффекта Э. готовы делиться интимными подробностями с ИИ.

• Эффект Э. положительно влияет на доверие к словам или фактам от виртуального помощника. Это может быть использовано как средство манипуляции.

• Склонность к персонификации у людей не заканчивается на компьютерах. Люди могут приписывать качества человеческого интеллекта предметам или животным — напр. говорить о том, что кот специально вредничает или как-то делает назло, в том время как поведение кота определяется его животными потребностями, а не умыслом.

В данный момент мы можем наблюдать эффект Э. во взаимодействии с ChatGPT и голосовыми ассистентами: приписывание голосовым помощникам человеческих черт, таких как пол и личность; влюбленность в текстовые чат-боты; чувство родства, как с живым человеком во время общения с ними; ощущение, что текстовый чат-бот специально оскорбляет вас.

Эффект Э. показывает насколько условно человек может определить наличие сознания у «другого ума» (и вообще, насколько он понимает, что это) и расширяет наше понимание об отношениях.

Молчаливый видео-перформанс

Моя приятельница Лиза, талантливый дизайнер, консультант и рок-звезда с кармическим предназначением, как-то в свой период жизни, когда она была современным художником в Армении, научила меня «молчаливым видео-перформансам». Это видео-кружочек в телеграме, который вы отправляете, без объяснения его сути, своим близким.

Чаще всего кружочек не содержит слов, а демонстрирует какое-либо действие или ситуацию и передаёт состояние. Это может быть абсолютно рутинное действие в привычной среде. Кружочек является законченный видео-артом, что бы в нем не было. Он передаёт интимность вашей ситуации, близость с человеком и разговаривает с вашим собеседником  непривычным языком. Многие, кто привык к информативным конкретным сообщениям, будут раздражаться на непонятность и неконкретность кружочка. Это все часть перформанса. Нужно просто продолжать смотреть в круг.

Вот вам молчаливый перформанс из аэропорта Бангкока — «Поиск пути».

Запишите сегодня вашим близким что-то подобное)

UPG: Лиза говорит, что должно быть обязательно лицо твоё в кружочке

Невроз понимания

Второй день в Гонконге меня не отпускает чувство, что все виртуальные образы урбанизма, которыми я жил долгое время в голове, в один момент воплотились в реальность. Чудо узнавания того, что всегда было на экранах и видеокассетах, которое испытывают многие, приехав в NY. Тут схожее ощущение, но в NY ты видишь схожую культуру, а тут микс из западной и восточной, что создает еще и ощущение, что ты на другой планете.

Город — сложная система, где связаны технологии, человеческая природа и культура. Гуляя по узким улочкам города с уходящей ввысь линией почти не видимых высоток, я ощутил, что это образ вопиющего к тебе о понимании и раскодировании мира. Улица с вывесками на непонятном языке как символ того, что каждая надпись должна быть понятой и настроены связи между объектами, способные удержать этот распадающийся мир в сознании.

У этого чувства есть и обратная стороны — а что, если это желание понять, раскодировать — это тревога и невроз, который помещает тебя в центр мира и не дает успокоиться, в то время, как мир прекрасно существует и не распадается на кусочки и без твоего понимания? Желание добавить себя, свои интерпретации и простроить связи может быть противоположно созерцанию сложности мира без твоего участия и эффекта наблюдателя.

Как говорил Сергей Бодров: «Ты становишься на углу оживленной улицы и представляешь, что тебя здесь нет. Вернее, тебя нет вообще. Пешеходы идут, сигналят машины, открываются двери магазинов, сменяются пассажиры на остановке. То есть в принципе мир продолжает жить и без тебя. Понимать это больно. Но важно».

В Гонконг я прилетел из Бангкока. Культурный код Тайцев — искусство уклонения от драмы, от вмешательства в то, что тебя не касается. У тебя своя карма, делай что угодно, только не кричи об этом, другие позаботятся о себе сами. Колесо Сансары катится и катится, времени нет, за прошлое цепляться не нужно, как и за будущее. Христианская этика в сочетании с современностью меньше уклонятся от драмы существования. Какой-то баланс между этими двумя системами можно найти в практиках созерцания. Томас Мертон — монах-траппист, проповедник дзен-католизицма, скоропостижно скончался на ретрите около Бангкока. Сейчас читаю его как пример интеграции этих двух позиций. В комментарии будет его цитата про созерцание, которая закончит мысль этого поста (см. комментарии).

Немного кружочков из Гонконга, который повергает меня в визуальный и культурный шок от обилия и плотности информации и связей (⚪ смотрим на 1,5х).

Вечером благодаря хорошим людям познакомился с Адамом - он из Чехии, знает прекрасно русский (начал учить в 15 лет), 5 лет путешествовал по миру автостопом. Европа, Россия, Казахстан, Япония. Пандемия остановила его в Гонконге и он тут задержался. Уличный музыкант и умный путешественник, который видел очень разные культуры и умеющий это оценивать. Во время общения с ним меня не покидало впечатление, что я разговариваю с русским, который прекрасно в теме всех событий и контекстов, хотя Адам не жил в России никогда, а только разговаривал с людьми из Сибири и Дальнего Востока. Магия языка. Я ещё понял, насколько мы недооцениваем, что мы говорим на одном языке и понимаем почти без слов в одной культуре намёки, отсылки и оттенки смысла. Это не видимо в рутине, но отказываясь в другой культуре, особенно Азиатской, это наглядно себя проявляет.

Мы погуляли в местном Гараже, послушали поп-фест (на кружочек сцена саундчека) и конце дня Адам завёл меня в местный Бангкок. Здание в центре Натан Роад, главной улицы Коулуна, типа Нового Арбата, которую владелец отдал под аренду хостелам. Там самое дешевое жилье в центре и много того что в Гонконге нет вообще — коммуны беженцев и новых приезжих: пакистанцев, африканцев, индусов. Внутри много обменников, а снаружи трутся ребята готовые продать тебе все, что ты захочешь. Встретили внутри нескольких ребят говорящих на русском.

Если что — в Гонконге такого вообще мало. Тут все работают не покладая рук и мало вот этой уличной культуры. Город с самой дорогой недвижимостью в мире, после Монако (того просто не обогнать, он в три раза превосходит Гонконг за цену кв.м, и в пять раз Сингапур, который на третьем месте). Искусства тоже не много, тут скорее люди за эффективность и практичность. При этом у китайцев какое-то врождённое чувство стиля из-за письма иероглифами, любые вывески обалденно красивы для европейского глаза.