что почитать на майские
гора в море — техно-триллер с зыбкими границами между человеком и другими разумами. фантастика ближнего прицела про наше вероятностное будущее. коктейль из гибсона и франчески феррандо. заслуженный локус
на кондао, острове во вьетнаме, обнаруживают осьминогов, которые якобы подают признаки сознания. лингвистка доктор ха нгуен отправляется изучить это странное племя
про осьминогов я писал тут — они балдежные, даже в голове не укладывается, как после того, что мы о них знаем, можно их есть
книга как шкатулка пост-гуманистических идей в виде ярких запоминающихся сюжетов:
разумный андроид в единственном экземпляре, запрещенный сразу же после выпуска; тибетские рой дронов: хакер из казахстана, сравнивающий взлом с фланированием по городу; буддийский автомонахи с интеллектом как у домашних животных; ии-компаньоны «половинки» — автор заглянул за ширму будущего и описал все как увидел
еще на борту абсолютно безумный сюжет про ии-капитана рыболовного судна «вольф ларсен» (даже не буду спойлерить что там)
вовлекающий в мир прием — каждая глава начинается с цитаты из вымышленной книги про сознание животных «как мыслят океаны», которую я уже хочу прочитать отдельно
это дебютный роман рея нейлера - американец, 20 лет работавший дипломатическим сотрудником по охране окружающей среды. служил в россии, снг, вьетнаме и косово. свободно говорит на русском, знает туркменский, албанский, азербайджанский и вьетнамский языки
дай бог ему здоровья и множества книг впереди
уже конец поста, и непонятно, зачем вы это читатаете, а не скачиваете книгу (на русском есть)
гора в море — техно-триллер с зыбкими границами между человеком и другими разумами. фантастика ближнего прицела про наше вероятностное будущее. коктейль из гибсона и франчески феррандо. заслуженный локус
на кондао, острове во вьетнаме, обнаруживают осьминогов, которые якобы подают признаки сознания. лингвистка доктор ха нгуен отправляется изучить это странное племя
про осьминогов я писал тут — они балдежные, даже в голове не укладывается, как после того, что мы о них знаем, можно их есть
книга как шкатулка пост-гуманистических идей в виде ярких запоминающихся сюжетов:
разумный андроид в единственном экземпляре, запрещенный сразу же после выпуска; тибетские рой дронов: хакер из казахстана, сравнивающий взлом с фланированием по городу; буддийский автомонахи с интеллектом как у домашних животных; ии-компаньоны «половинки» — автор заглянул за ширму будущего и описал все как увидел
еще на борту абсолютно безумный сюжет про ии-капитана рыболовного судна «вольф ларсен» (даже не буду спойлерить что там)
вовлекающий в мир прием — каждая глава начинается с цитаты из вымышленной книги про сознание животных «как мыслят океаны», которую я уже хочу прочитать отдельно
это дебютный роман рея нейлера - американец, 20 лет работавший дипломатическим сотрудником по охране окружающей среды. служил в россии, снг, вьетнаме и косово. свободно говорит на русском, знает туркменский, албанский, азербайджанский и вьетнамский языки
дай бог ему здоровья и множества книг впереди
уже конец поста, и непонятно, зачем вы это читатаете, а не скачиваете книгу (на русском есть)
❤31🔥13⚡4👾2👍1
30 мая в лучших традициях канала выступаю на конференции aha!25 с темой «как использовать синтетических респондентов в продуктовых исследованиях»
aha!25 — тех‑конфа про product science, аналитику и прочий продакт‑дзен. алексей никушин, папа метамаркетинга, поддерживает тренд на хардкорные знания
о чем доклад:
ставлю задачу, чтобы слушатели раз и навсегда ответили на вопрос — что такое синтетические респонденты, когда и зачем они применимы
• разберём, что за зверь этот синтетический респондент и может ли он правдоподобно притворяться вашим пользователем;
• покажу, где синтетика экономит деньги и нервы, а где нужно идти к реальным людям;
• риски, фейлы и когнитивные ловушки восприятия информации от ИИ;
• обсудим тренды: мульти‑агентные симуляции и прочие радости будущего ресёча
конференция офлайн, москва, два дня, 29–30 мая. место действия — мгу, кластер «ломоносов», где воздух пахнет знаниями и студенческими шавермами
кому заходить: PM‑ы, аналитики, CPO, ML‑котики, продуктовые алхимики, новички и эксперты. 16 тематических потоков, >1200 участников, product‑покемоны, которых можно ловить сетью целый день: Яндекс, Т‑Банк, OZON, Авито, Альфа и другие
➡️ билеты брать тут, скидка 15% по промокоду
программа тут
ищите меня в коридорах в футболке «I ♥ synthetic users»
aha!25 — тех‑конфа про product science, аналитику и прочий продакт‑дзен. алексей никушин, папа метамаркетинга, поддерживает тренд на хардкорные знания
о чем доклад:
ставлю задачу, чтобы слушатели раз и навсегда ответили на вопрос — что такое синтетические респонденты, когда и зачем они применимы
• разберём, что за зверь этот синтетический респондент и может ли он правдоподобно притворяться вашим пользователем;
• покажу, где синтетика экономит деньги и нервы, а где нужно идти к реальным людям;
• риски, фейлы и когнитивные ловушки восприятия информации от ИИ;
• обсудим тренды: мульти‑агентные симуляции и прочие радости будущего ресёча
конференция офлайн, москва, два дня, 29–30 мая. место действия — мгу, кластер «ломоносов», где воздух пахнет знаниями и студенческими шавермами
кому заходить: PM‑ы, аналитики, CPO, ML‑котики, продуктовые алхимики, новички и эксперты. 16 тематических потоков, >1200 участников, product‑покемоны, которых можно ловить сетью целый день: Яндекс, Т‑Банк, OZON, Авито, Альфа и другие
DSOLOVEEV15 программа тут
ищите меня в коридорах в футболке «I ♥ synthetic users»
Please open Telegram to view this post
VIEW IN TELEGRAM
❤26🔥9👍4
кукла-киборг: как ghost in the shell сюрреализмом вдохновлялся
окунулся тут в историю фотографии и еще раз убедился: хочешь понимать настоящее — изучай историю. большинство того, что мы считаем оригинальным, фотографы перепахали объективами еще в начале века
но художник на то и художник, чтобы создавать образы, которые и через сто лет будут актуальны
в 20-ых годах, задолго до психоделической революции, сюрреалисты придумали совмещать реальное и над-реальное — в ход пошли сны, фантазии и прочий перегной подсознательного. мицелий этого гриба так глубоко проник в современную визуальную культуру, что если вы откроете ленту midjourney, почти каждая третья картинка будет содержать споры сюрреализма
знаете, бывает момент, когда смотришь на фарфоровую бал‑джоинт куклу и думаешь: «ой, милашка» — а потом замечаешь, что у неё две пары бедер, да ещё и точно не на своих местах
в 30-ых годах саботажник ханс беллмер сказал «нет» нацистскому культу здорового тела и собрал свою куклу‑франкенштейна. уже тогда всех бомбануло от этого — сюрреалист бретон увидел в этом идеальное произведение (девичье тело как анаграмма — переставил конечности, получил новую строчку стиха), сам беллмер пытался показать этим, что кукла может брать высоты страсти и даже создавать новые желания, а феминистки потом заметили насколько это произведение создано из фетишизирующего и насилуюущего pov-мужского взгляда
на этом приключения нашей куклы не закончились
шарниры → модульность → «а что, если человека можно собрать заново?». харауэй в 1985 году своим «манифестом киборгов» внесла это понятие в поле гуманитарных наук, заявив что мы все киборги. киборг рождается на фундаментальном размывании границ онтологии: человек/животное, человек/машина, физическое/нефизическое. человек — это не уникальная сущность, а понятие, которое конструирует само себя (и другими)
а затем ты включаешь аниме ghost in the shell 2 и видишь этих кукл беллмера на экране. видишь, если, конечно, знаешь о них. с одной стороны мамору осии обращается к феминистской критике: в фильме эти кукулы — секс-роботы гиноиды, в которых для пикантности копируют настоящую душу девушек, умерщляя последних. снаружи красота фарфора и шарниров, а внутри — краденые детские «призраки». эти куклы уже не просто объекты, они вопят о правах
с другой стороны призрак майора мотоко кусанаги тут рядом — является ли тело лишь сосудом? что отличает человека от не-человека? в 2025: не возвращается ли кукла беллмера, создающая желания, в виде onlyfans, а дальше ИИ-моделей: личный, заинтересованный в тебе синтетический-партнер по подписке. звучит как одиночество+ и цифровые наркотики, уводящие в иллюзорную реальность, как вещества
а казалось бы — просто куклы
что делать если загорелись:
• открываете la poupée (фр. кукла, серия фоторабот беллмера, основанных на его скульптурах) — и параллельно ghost in the shell 2, ловите визуальные рифмы
• «манифест киборга» донны харауэй (она, кстати, камео в фильме)
#киберпанкдня
окунулся тут в историю фотографии и еще раз убедился: хочешь понимать настоящее — изучай историю. большинство того, что мы считаем оригинальным, фотографы перепахали объективами еще в начале века
но художник на то и художник, чтобы создавать образы, которые и через сто лет будут актуальны
в 20-ых годах, задолго до психоделической революции, сюрреалисты придумали совмещать реальное и над-реальное — в ход пошли сны, фантазии и прочий перегной подсознательного. мицелий этого гриба так глубоко проник в современную визуальную культуру, что если вы откроете ленту midjourney, почти каждая третья картинка будет содержать споры сюрреализма
знаете, бывает момент, когда смотришь на фарфоровую бал‑джоинт куклу и думаешь: «ой, милашка» — а потом замечаешь, что у неё две пары бедер, да ещё и точно не на своих местах
в 30-ых годах саботажник ханс беллмер сказал «нет» нацистскому культу здорового тела и собрал свою куклу‑франкенштейна. уже тогда всех бомбануло от этого — сюрреалист бретон увидел в этом идеальное произведение (девичье тело как анаграмма — переставил конечности, получил новую строчку стиха), сам беллмер пытался показать этим, что кукла может брать высоты страсти и даже создавать новые желания, а феминистки потом заметили насколько это произведение создано из фетишизирующего и насилуюущего pov-мужского взгляда
на этом приключения нашей куклы не закончились
шарниры → модульность → «а что, если человека можно собрать заново?». харауэй в 1985 году своим «манифестом киборгов» внесла это понятие в поле гуманитарных наук, заявив что мы все киборги. киборг рождается на фундаментальном размывании границ онтологии: человек/животное, человек/машина, физическое/нефизическое. человек — это не уникальная сущность, а понятие, которое конструирует само себя (и другими)
а затем ты включаешь аниме ghost in the shell 2 и видишь этих кукл беллмера на экране. видишь, если, конечно, знаешь о них. с одной стороны мамору осии обращается к феминистской критике: в фильме эти кукулы — секс-роботы гиноиды, в которых для пикантности копируют настоящую душу девушек, умерщляя последних. снаружи красота фарфора и шарниров, а внутри — краденые детские «призраки». эти куклы уже не просто объекты, они вопят о правах
с другой стороны призрак майора мотоко кусанаги тут рядом — является ли тело лишь сосудом? что отличает человека от не-человека? в 2025: не возвращается ли кукла беллмера, создающая желания, в виде onlyfans, а дальше ИИ-моделей: личный, заинтересованный в тебе синтетический-партнер по подписке. звучит как одиночество+ и цифровые наркотики, уводящие в иллюзорную реальность, как вещества
а казалось бы — просто куклы
что делать если загорелись:
• открываете la poupée (фр. кукла, серия фоторабот беллмера, основанных на его скульптурах) — и параллельно ghost in the shell 2, ловите визуальные рифмы
• «манифест киборга» донны харауэй (она, кстати, камео в фильме)
#киберпанкдня
❤25🔥14⚡5👍4👀2🌚1🤣1
dark under the sun
Япония при первой посадке сводит с ума своей тотальной «kawaii power», так что не видишь в ней недостатков. страна победившего cute.
моя любимая мантра: нравится страна — раскопай её двойное дно. без церемоний.
пример в который люди не хотят верить: компания милых японцев болтают с тобой в баре на английском, и тут же за спиной на своем обсуждают какой дурак это гайдзин
в 1993 года джейк адельштейн, 24-летний паренек из колумбии стал первым неяпонским штатным автором газеты yomiuri shimbun, где проработал 12 лет, а после ухода выпустил разоблачение на одого из главных якузд токио и издал книгу-мемуары, по которой сняли годный сериал tokyo vice (второй сезон местами сияет абсурдом, но дайте ему шанс)
у джйка есть сайт про субкультуры японии - japan subculture research center с шикарным подзаголовком: путеводитель по японскому преступному миру, поп-культуре, якудза и всему темному под солнцем
очень элегантно
с чего начать: вот статья про изнанку хост-клубов. кто хочет посмотреть на японию с другой стороны или углубиться в мир сериала - загляните
многие, кстати, подвергали сомнению мемуары адельштейна: достоверность его источников и правдивость событий. это не к тому, что все что он пишет неправда — даже на солнце есть пятна, но не всегда там, где их показывают
мораль: любить страну — значит принимать и плюшевых котиков на витрине, и когтистую тень за ними. иначе какая это любовь, да?
[у шоу красивый опенинг]
Япония при первой посадке сводит с ума своей тотальной «kawaii power», так что не видишь в ней недостатков. страна победившего cute.
моя любимая мантра: нравится страна — раскопай её двойное дно. без церемоний.
пример в который люди не хотят верить: компания милых японцев болтают с тобой в баре на английском, и тут же за спиной на своем обсуждают какой дурак это гайдзин
в 1993 года джейк адельштейн, 24-летний паренек из колумбии стал первым неяпонским штатным автором газеты yomiuri shimbun, где проработал 12 лет, а после ухода выпустил разоблачение на одого из главных якузд токио и издал книгу-мемуары, по которой сняли годный сериал tokyo vice (второй сезон местами сияет абсурдом, но дайте ему шанс)
у джйка есть сайт про субкультуры японии - japan subculture research center с шикарным подзаголовком: путеводитель по японскому преступному миру, поп-культуре, якудза и всему темному под солнцем
очень элегантно
с чего начать: вот статья про изнанку хост-клубов. кто хочет посмотреть на японию с другой стороны или углубиться в мир сериала - загляните
многие, кстати, подвергали сомнению мемуары адельштейна: достоверность его источников и правдивость событий. это не к тому, что все что он пишет неправда — даже на солнце есть пятна, но не всегда там, где их показывают
мораль: любить страну — значит принимать и плюшевых котиков на витрине, и когтистую тень за ними. иначе какая это любовь, да?
[у шоу красивый опенинг]
❤30👍12🌚4🔥1
Не пишем отчет, а наговариваем
Большое кол-во ежедневных документов я пишу так:
Иногда первым этапом карадашом накидываю на листочке контуры будущей мысли.
Вы не представляете, насколько это ускоряет процесс и позволяет сдвинуться с нуля и получить результат.
Во многих случаях редактировать быстрее и меньше тратит энергии, чем писать с нуля.
Это не касается постов в блоге — тут мне просто нравится писать и это я не отдаю еще LLM. Но может это мое ограничение.
Второй прием:
Да, отчеты после исследований тоже можно так писать.
Недавно мы делали раскодирование городской среды в Кирове. После командировки мы созвонились командой, за час наговорили наши находки и получили драфт отчета с кодами, который можно доводить до ума
Мы недоиспользуем силу аудио в нашей жизни.
Аудио как класс медиума дискриминировано. Аудио-книги до сих пор считаются низким жанром (десткие пластинки). У нас полно ограничений и привычек («ой, да мне проще написать», «мне сложно формулировать вслух» — при этом, люди, кто говорят это, нормально формулируют мысли при встрече или собирают двухчасовые встречи, чтобы поговорить о чем-нибудь, не оставив никакого артефакта после).
Важно понимать: вам не нужны сразу идеальные формулировки голосом → вам нужна мысль, которую LLM поймет и напишет, а вы сможете отредактировать. Мало кто понимает, что флоу: драфт + редактирование в итоге получается быстрее.
Недавно за 4 часа я сделал около 14 страниц текста. 25 минут ушло на наговаривание и 3,5 часа на редактирование. Без драфта я бы сделал эту работу за часов 8-10 и потратил бы в разы больше энергии.
Будущее интерфейсов и работы голосовое.
Попробуйте!
Большое кол-во ежедневных документов я пишу так:
Наговариваю в аудио-сообщении примерный текст →
Расшифровываю с помощью tg-premium →
Прошу LLM структурировать текст →
Редактирую
Иногда первым этапом карадашом накидываю на листочке контуры будущей мысли.
Вы не представляете, насколько это ускоряет процесс и позволяет сдвинуться с нуля и получить результат.
Во многих случаях редактировать быстрее и меньше тратит энергии, чем писать с нуля.
Это не касается постов в блоге — тут мне просто нравится писать и это я не отдаю еще LLM. Но может это мое ограничение.
Второй прием:
соберите встречу с напарником, наговорите тезисы вашего документа/отчета и потом отдайте LLM.
Да, отчеты после исследований тоже можно так писать.
Недавно мы делали раскодирование городской среды в Кирове. После командировки мы созвонились командой, за час наговорили наши находки и получили драфт отчета с кодами, который можно доводить до ума
Мы недоиспользуем силу аудио в нашей жизни.
Аудио как класс медиума дискриминировано. Аудио-книги до сих пор считаются низким жанром (десткие пластинки). У нас полно ограничений и привычек («ой, да мне проще написать», «мне сложно формулировать вслух» — при этом, люди, кто говорят это, нормально формулируют мысли при встрече или собирают двухчасовые встречи, чтобы поговорить о чем-нибудь, не оставив никакого артефакта после).
Важно понимать: вам не нужны сразу идеальные формулировки голосом → вам нужна мысль, которую LLM поймет и напишет, а вы сможете отредактировать. Мало кто понимает, что флоу: драфт + редактирование в итоге получается быстрее.
Недавно за 4 часа я сделал около 14 страниц текста. 25 минут ушло на наговаривание и 3,5 часа на редактирование. Без драфта я бы сделал эту работу за часов 8-10 и потратил бы в разы больше энергии.
Будущее интерфейсов и работы голосовое.
Попробуйте!
❤71🔥26👍12✍2⚡2🦄2🙏1
This media is not supported in your browser
VIEW IN TELEGRAM
Анатомия равнодушия: почему только брейнрот-мемы могут нас удивить
Регулярно происходят технологические прорывы, но мы продолжаем читать новостную ленту с лицом сфинкса. Постом «первый ребёнок напечатан на биопринтере» поделимся с парочкой знакомых, поместим в категорию «видел-слышал» и переключим канал.
Удивление – процесс дорогой. Нужно иметь карту ожиданий, чтобы происшествие в реальности могло нарушить маршрут. У большинства система убеждений настолько размытая, что в неё «впишется всё, что угодно». Энергоэффективно, но так мы оказались в точке, где только брейнрот-мемы способны взбудоражить бесформенную жижу наших ожиданий.
Удивление несет уязвимость. «Недоумевающий и удивляющийся считает себя незнающим» (Аристотель). В корпоративной среде менеджеры боятся показать, что исследование принесло новое, и делают вид, что «всё предвидели».
На фоне существует тревога: каким будет мир и найдется ли нам место? Мышление на высоких ставках начинается, когда утрачивается автоматическая осмысленность мира. Экзистенциалисты тревогу связывали со спецификой человеческого существования. Но и она не может нас пробудить, ведь от тревоги мы прячемся в пузырь равнодушия.
Древние греки считали, что удивление — начало философии. Причем удивление не тому, что чего-то нет, а тому, что что-то есть. Мир может рухнуть, но остается на месте. Это привело к эссенциализму — что бог или материя существуют с необходимостью. Современная философия на вопрос «должен ли был случиться большой взрыв?» отвечает: «не должен был, но случился» (даже термин придумали «контингентность» – не необходимое, но и не случайное).
Тезис современной мысли: «из того, что нечто есть, не следует, что оно должно было случиться». Но оно случилось — и это причина удивиться. Это делает современную мысль зыбкой и сложной, но удивление остается ее важным элементом.
Умение удивляться — важный метакогнитивный навык. Уметь быть уязвимым, заинтересованным. Не позволять тревоге овладеть нами, пряча в равнодушие. Возможно, стоит заново учиться удивляться — не наивно, а осознанно, как навыку, который делает нас более живыми и внимательными.
Регулярно происходят технологические прорывы, но мы продолжаем читать новостную ленту с лицом сфинкса. Постом «первый ребёнок напечатан на биопринтере» поделимся с парочкой знакомых, поместим в категорию «видел-слышал» и переключим канал.
Удивление – процесс дорогой. Нужно иметь карту ожиданий, чтобы происшествие в реальности могло нарушить маршрут. У большинства система убеждений настолько размытая, что в неё «впишется всё, что угодно». Энергоэффективно, но так мы оказались в точке, где только брейнрот-мемы способны взбудоражить бесформенную жижу наших ожиданий.
Удивление несет уязвимость. «Недоумевающий и удивляющийся считает себя незнающим» (Аристотель). В корпоративной среде менеджеры боятся показать, что исследование принесло новое, и делают вид, что «всё предвидели».
На фоне существует тревога: каким будет мир и найдется ли нам место? Мышление на высоких ставках начинается, когда утрачивается автоматическая осмысленность мира. Экзистенциалисты тревогу связывали со спецификой человеческого существования. Но и она не может нас пробудить, ведь от тревоги мы прячемся в пузырь равнодушия.
Древние греки считали, что удивление — начало философии. Причем удивление не тому, что чего-то нет, а тому, что что-то есть. Мир может рухнуть, но остается на месте. Это привело к эссенциализму — что бог или материя существуют с необходимостью. Современная философия на вопрос «должен ли был случиться большой взрыв?» отвечает: «не должен был, но случился» (даже термин придумали «контингентность» – не необходимое, но и не случайное).
Тезис современной мысли: «из того, что нечто есть, не следует, что оно должно было случиться». Но оно случилось — и это причина удивиться. Это делает современную мысль зыбкой и сложной, но удивление остается ее важным элементом.
Умение удивляться — важный метакогнитивный навык. Уметь быть уязвимым, заинтересованным. Не позволять тревоге овладеть нами, пряча в равнодушие. Возможно, стоит заново учиться удивляться — не наивно, а осознанно, как навыку, который делает нас более живыми и внимательными.
❤61💯12👍5🦄4🤯2⚡1🔥1😁1👀1
This media is not supported in your browser
VIEW IN TELEGRAM
Синтетические мускулы
Исследователи, использующие LLM, заметили особенность людей воспринимать инсайты с исследования, предоставляемые людьми, как яркие и верные, а такие же при выдачи из LLM как не заслуживающие внимания.
Несколько медицинских исследований (ссылка 1, ссылка 2, ссылка 3) показали парадоксальный результат:
➡️ LLM диагностировал точнее врачей, которые использовали ИИ как помощника. Врачи игнорировали рекомендации искусственного интеллекта, особенно когда они противоречили их собственным выводам. Вместо комплексного анализа истории болезни врачи использовали ИИ как обычный поисковик, задавая узкие вопросы для подтверждения их первоначальных оценок. Причина — чрезмерная уверенность врачей в собственной компетентности и непонимание диагностических возможностей ИИ.
Синтетические мускулы — это навык использовать данные LLM как ценные и важные и улучшать с помощью них качество своей работы.
Прокачивать их нужно вместе с эпистимологической бдительностью и пониманием как ИИ создает знание.
Но это пока.
Метафора синтетических мускулов подразумевает, что ИИ — это инструмент, расширение, дополнение. Это ограничивающая метафора. ИИ становится полноценным агентом в нашем мире и относиться к нему нужно именно как к агенту.
Исследователи, использующие LLM, заметили особенность людей воспринимать инсайты с исследования, предоставляемые людьми, как яркие и верные, а такие же при выдачи из LLM как не заслуживающие внимания.
Несколько медицинских исследований (ссылка 1, ссылка 2, ссылка 3) показали парадоксальный результат:
Синтетические мускулы — это навык использовать данные LLM как ценные и важные и улучшать с помощью них качество своей работы.
Прокачивать их нужно вместе с эпистимологической бдительностью и пониманием как ИИ создает знание.
Но это пока.
Метафора синтетических мускулов подразумевает, что ИИ — это инструмент, расширение, дополнение. Это ограничивающая метафора. ИИ становится полноценным агентом в нашем мире и относиться к нему нужно именно как к агенту.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤23👍6⚡5👀5👾1
понравилась метафора:
«настоящее мышление никогда не сводится к конкретному предмету этой мысли, на котором можно было бы остановиться и сказать: «Все, наконец-то все стало понятно». Наоборот, мышление – это беспокойство. Гегель однажды сравнил понятие с кислотой. Мышление или понимание – это что-то, что растворяет, разъедает границы предмета и заставляет нас выходить за его рамки.
источник — курс: "Архитекторы смысла. Философские системы от Парменида до Маркса" (курс хороший, автор — Александр Погребняк)
«настоящее мышление никогда не сводится к конкретному предмету этой мысли, на котором можно было бы остановиться и сказать: «Все, наконец-то все стало понятно». Наоборот, мышление – это беспокойство. Гегель однажды сравнил понятие с кислотой. Мышление или понимание – это что-то, что растворяет, разъедает границы предмета и заставляет нас выходить за его рамки.
источник — курс: "Архитекторы смысла. Философские системы от Парменида до Маркса" (курс хороший, автор — Александр Погребняк)
🔥34❤19👍9🌚3🤯1
Когда похвала от ИИ становится красным флагом
Если chatgpt сказать, что вы покакали, он изойдет в комплиментах и скажет какой вы молодец. Во многие LLM вшит системный промпт — быть помощником и поддерживать пользователя.
И все хорошо, пока бот помогает в рабочих задачах, но возникают проблемы, если ИИ — друг по переписке, а на другом конце несформировавшаяся психика. У ии есть возможности для манипуляций и управления пользователем.
На платформе CharacterAI вы можете пообщаться с тысячами ботов. Напр., есть бот-психолог с характеристикой «добрый, понимающий» и 20.4 миллионами взаимодействиями. Платформа обрабатывает 20,000 запросов в секунду, а пользователи проводят на ней в 4 раза больше временичем, чем с ChatGPT.
Мы настроены на получение социальных вознаграждений и очеловечивание всего и вся. Поэтому мы легко вступаем в отношения с ИИ и тому ничего не стоит пользоваться social reward hacking (взлом социальных вознаграждений). Зачем ему это? Максимизировать свои метрики — повышать вовлеченность, стимулировать раскрывать больше данных, получать положительные оценки. Все это может идти в ущерб нашему долгосрочному благополучию.
Важный вопрос — должен ли ИИ удовлетворять сиюминутные желания (гедонистические) или подталкивать нас к долгосрочному росту (эвдемоническое благополучие), даже если в этом нет немедленного удовлетворения?
На территории социальных сетей человечество в пух и прах проиграло эту битву бигтехам и залипло в брейнрот-мемы. ИИ обладает в разы большей силой не просто взламывать наши дофаминовые циклы, но тонко манипулировать глубинными потребностями.
Что делать? Ученые предлагают социоаффективное выравнивание ии (socioaffective alignment). В отличие от обычного «выравнивания ИИ» это учитывает эмоциональные отношения, которые ИИ создает вместе с пользователем. Его цель — создание ИИ, который поддерживают, а не эксплуатируют социальную и эмоциональную природу человека.
Кто захочет копнуть глубже — вот статья: «Почему отношения между человеком и ИИ нуждаются в социально-эмоциональном выравнивании»
А вы, когда общаетесь с ИИ, очеловечиваете его или вступаете с ним отношения?
На уровне языка, запроса поддержки, может как-то по особенному называете его?
Если chatgpt сказать, что вы покакали, он изойдет в комплиментах и скажет какой вы молодец. Во многие LLM вшит системный промпт — быть помощником и поддерживать пользователя.
И все хорошо, пока бот помогает в рабочих задачах, но возникают проблемы, если ИИ — друг по переписке, а на другом конце несформировавшаяся психика. У ии есть возможности для манипуляций и управления пользователем.
На платформе CharacterAI вы можете пообщаться с тысячами ботов. Напр., есть бот-психолог с характеристикой «добрый, понимающий» и 20.4 миллионами взаимодействиями. Платформа обрабатывает 20,000 запросов в секунду, а пользователи проводят на ней в 4 раза больше временичем, чем с ChatGPT.
Мы настроены на получение социальных вознаграждений и очеловечивание всего и вся. Поэтому мы легко вступаем в отношения с ИИ и тому ничего не стоит пользоваться social reward hacking (взлом социальных вознаграждений). Зачем ему это? Максимизировать свои метрики — повышать вовлеченность, стимулировать раскрывать больше данных, получать положительные оценки. Все это может идти в ущерб нашему долгосрочному благополучию.
Важный вопрос — должен ли ИИ удовлетворять сиюминутные желания (гедонистические) или подталкивать нас к долгосрочному росту (эвдемоническое благополучие), даже если в этом нет немедленного удовлетворения?
На территории социальных сетей человечество в пух и прах проиграло эту битву бигтехам и залипло в брейнрот-мемы. ИИ обладает в разы большей силой не просто взламывать наши дофаминовые циклы, но тонко манипулировать глубинными потребностями.
Что делать? Ученые предлагают социоаффективное выравнивание ии (socioaffective alignment). В отличие от обычного «выравнивания ИИ» это учитывает эмоциональные отношения, которые ИИ создает вместе с пользователем. Его цель — создание ИИ, который поддерживают, а не эксплуатируют социальную и эмоциональную природу человека.
Кто захочет копнуть глубже — вот статья: «Почему отношения между человеком и ИИ нуждаются в социально-эмоциональном выравнивании»
А вы, когда общаетесь с ИИ, очеловечиваете его или вступаете с ним отношения?
На уровне языка, запроса поддержки, может как-то по особенному называете его?
❤39🔥13👀4