Новость в продолжение нашей вчерашней дискуссии на ПМЭФ – ИИ-модель Mythos заступила на службу в американские кибервойска и будет использоваться для проведения киберопераций против других государств. Вызов очень серьезный: по мнению сооснователя Positive Technologies Бориса Симиса, применение искусственного интеллекта повысит возможности атакующих даже не на порядок, а на два. И он согласен с первым замглавы ФСТЭК Виталием Лютиковым, что эффективно противодействовать атакующему ИИ может только другой ИИ. Впрочем, по словам начальника Управления Президента РФ по госполитике в сфере ОПК Виктора Евтухова, закрытая модель для отражения киберугроз уже разработана.
По моему мнению – и на сессии ПМЭФ я это подчеркнул, – индустрия близка к тому, что автоматизация атак достигнет такого уровня, когда нейросети будут бороться друг с другом. Концепция мертвого интернета на наших глазах реализуется не только в социальных платформах (об этом много говорят), но в кибервоенном секторе. Мы на пороге дивного нового мира, когда в кибератаках будут мериться силами продвинутые нейромодели. И этот новый технологический передел, этот киберпанк наступит, по моему мнению, до 2030 года (если не раньше).
Еще один тревожный сигнал: национальные стратегии кибербезопасности всё чаще приобретают наступательный характер. Например, в новой киберстратегии США прописано, что своими потенциальными врагами они считают все остальные страны без исключения. От архитектуры коллективной защиты американцы переходят к стратегии индивидуального доминирования в киберпространстве. Это объясняет, зачем топ-менеджеров американских технологических компаний зачислили в военный резерв, а планы по использованию их разработок для атак на другие страны даже не пытаются скрывать.
🇷🇺 Этот пост вышел в МАКС час назад
По моему мнению – и на сессии ПМЭФ я это подчеркнул, – индустрия близка к тому, что автоматизация атак достигнет такого уровня, когда нейросети будут бороться друг с другом. Концепция мертвого интернета на наших глазах реализуется не только в социальных платформах (об этом много говорят), но в кибервоенном секторе. Мы на пороге дивного нового мира, когда в кибератаках будут мериться силами продвинутые нейромодели. И этот новый технологический передел, этот киберпанк наступит, по моему мнению, до 2030 года (если не раньше).
Еще один тревожный сигнал: национальные стратегии кибербезопасности всё чаще приобретают наступательный характер. Например, в новой киберстратегии США прописано, что своими потенциальными врагами они считают все остальные страны без исключения. От архитектуры коллективной защиты американцы переходят к стратегии индивидуального доминирования в киберпространстве. Это объясняет, зачем топ-менеджеров американских технологических компаний зачислили в военный резерв, а планы по использованию их разработок для атак на другие страны даже не пытаются скрывать.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥82
Forwarded from Толкователь
Послушал выступление на ПМЭФ первого зампреда Комитета по информации Госдумы Антона Горелкина по поводу алгоритмов соцсетей. Он прав в том, что алгоритмы должны быть «прозрачными», регламенты – публичными. Прав в том, что «дофаминовые» посты, высоко взлетающие в выдаче - это проблема («отупение масс»).
https://tg-me.sbs/webstrangler/4804
Но есть другая проблема. Понятные алгоритмы скорее рано, чем поздно заставят блогеров и СМИ «подстраиваться» под них, пытаясь попасть в максимум выдачи. Так в своё время обстояло в том же «Дзене», где тысячи каналов пытались «обмануть алгоритм» (ещё раньше, хоть это и не соцсеть, СМИ пытались обмануть алгоритм выдачи Яндекс-Новостей, чтобы быть в Топе).
Потому соцсети вынуждены каждый раз менять алгоритмы, чуть ли не ежесуточно – и как тут быть с прозрачностью системы? А ведь на пороге ещё и мощные ИИ, которые будут стараться взламывать алгоритмы (менять алгоритмы придётся ежечасно).
Вторая проблема – соцсети зарабатывают на рекламе, а значит, на трафике. «Дофаминовый контент» генерит трафик. Можно заполнить Топ постами про древнегреческих философов, урожайность ржи в Средние века и чёрные дыры во Вселенной, бубнежом чиновников, но будут ли их дочитывать? Дальше заголовка и первых двух строк люди не пойдут.
Поэтому идеальные, на мой взгляд, соцсети вообще без алгоритмов – как было в старом добром ЖЖ (которым я успел поруководить), как сейчас в Телеграме и Максе. Может быть, к ним надо прикручивать где-то в стороне Топ-постов, как было в ЖЖ – хотя этот Топ в итоге всё равно накручивали. Так что можно и без Топа.
https://tg-me.sbs/webstrangler/4804
Но есть другая проблема. Понятные алгоритмы скорее рано, чем поздно заставят блогеров и СМИ «подстраиваться» под них, пытаясь попасть в максимум выдачи. Так в своё время обстояло в том же «Дзене», где тысячи каналов пытались «обмануть алгоритм» (ещё раньше, хоть это и не соцсеть, СМИ пытались обмануть алгоритм выдачи Яндекс-Новостей, чтобы быть в Топе).
Потому соцсети вынуждены каждый раз менять алгоритмы, чуть ли не ежесуточно – и как тут быть с прозрачностью системы? А ведь на пороге ещё и мощные ИИ, которые будут стараться взламывать алгоритмы (менять алгоритмы придётся ежечасно).
Вторая проблема – соцсети зарабатывают на рекламе, а значит, на трафике. «Дофаминовый контент» генерит трафик. Можно заполнить Топ постами про древнегреческих философов, урожайность ржи в Средние века и чёрные дыры во Вселенной, бубнежом чиновников, но будут ли их дочитывать? Дальше заголовка и первых двух строк люди не пойдут.
Поэтому идеальные, на мой взгляд, соцсети вообще без алгоритмов – как было в старом добром ЖЖ (которым я успел поруководить), как сейчас в Телеграме и Максе. Может быть, к ним надо прикручивать где-то в стороне Топ-постов, как было в ЖЖ – хотя этот Топ в итоге всё равно накручивали. Так что можно и без Топа.
Telegram
Горелкин
Вместе с участниками сессии «Реальное и виртуальное пространство» на ПМЭФ-2026 обсудили, как платформы и искусственный интеллект формируют идентичность новых поколений. Ключевой вопрос – что сделать, чтобы на это повлиять (спойлер: попытки уже предпринимаются).…
🔥81
Выступая на пленарном заседании ПМЭФ-2026, Владимир Путин поручил Правительству подготовить национальные стратегии развития автономных систем и цифровых платформ – по примеру стратегии развития ИИ. Эти три технологии Президент назвал ключевымии для будущего.
При этом как минимум две из них нуждаются в актуальных данных о состоянии потребительского рынка, спросе, существующих каналах продаж и динамике их роста. До недавних пор сбор этой ценнейшей информации концентрировался в руках пула иностранных исследовательских компаний, фактически монополизировавших рынок. От этой зависимости нам удалось избавиться.
Мы видим, что исследовательский рынок РФ переживает второе рождение: на нем успешно работают российские игроки. Примечательно, что некоторые иностранные компании пытались хитрить и искать обходные пути – так важно было им остаться у источников данных (и, думаю, это продиктовано не только бизнес-интересами).
Уверен, что в результате здоровой конкуренции на исследовательском рынке родятся новые инструменты и уникальные методики. Учитывая, что наши цифровые платформы представлены и во многих дружественных странах (Президент отмечал успехи маркетплейса Wildberries в Узбекистане), можно предположить, что российские аналитические компании тоже могут рассчитывать на выход за внешний контур.
🇷🇺 Этот пост вышел в МАКС час назад
При этом как минимум две из них нуждаются в актуальных данных о состоянии потребительского рынка, спросе, существующих каналах продаж и динамике их роста. До недавних пор сбор этой ценнейшей информации концентрировался в руках пула иностранных исследовательских компаний, фактически монополизировавших рынок. От этой зависимости нам удалось избавиться.
Мы видим, что исследовательский рынок РФ переживает второе рождение: на нем успешно работают российские игроки. Примечательно, что некоторые иностранные компании пытались хитрить и искать обходные пути – так важно было им остаться у источников данных (и, думаю, это продиктовано не только бизнес-интересами).
Уверен, что в результате здоровой конкуренции на исследовательском рынке родятся новые инструменты и уникальные методики. Учитывая, что наши цифровые платформы представлены и во многих дружественных странах (Президент отмечал успехи маркетплейса Wildberries в Узбекистане), можно предположить, что российские аналитические компании тоже могут рассчитывать на выход за внешний контур.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥81
Forwarded from РОЦИТ: эксперты про интернет
Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе
▪️ Андрей Быстрицкий @abystritskiy
Проблема соотношения кооперации и конкуренции всегда носила острый характер, но в последнее время, в связи с ростом взаимозависимости в мире, она явно приобрела особую токсичность. Этому способствует два обстоятельства. Первое - бурное развитие новой информационно-коммуникационной среды. Второе - резкая эскалация международных конфликтов.
▪️ Антон Горелкин @webstrangler
Интересная на ПМЭФ получилась дискуссия о глобальных киберконфликтах. Главный вопрос, на который мы искали ответ, – как измерить цифровую устойчивость экономики. Вопроса «а зачем» уже никто не задаёт: экспертам очевиден тренд на усиление наступательных киберопераций в российском цифровом контуре. Я убежден, что кибербезопасность должна стать не просто приоритетом, а приобрести ценность на всех уровнях управления.
▪️ Валерий Федоров @fedorovwciom
Телезрители убеждены, что жертвами фейков становятся интернет-пользователи, а те — наоборот. Активные потребители новостей видят в своей вовлечённости защиту, тогда как те, кто читает новости редко, считают именно малое число контактов с медиа своим иммунитетом. Перед нами - одна из главных когнитивных ловушек современности: уверенность в собственной медиаграмотности парадоксально снижает нашу настороженность именно тогда, когда она нужнее всего.
▪️ Людмила Богатырева @government_IT
99% программного обеспечения в мире использует открытый исходный код, и большая его часть хранится на западных платформах, у которых внутри страны не всегда есть полноценные аналоги. Главная задача сейчас — найти сбалансированный подход, при котором информационная безопасность не ломает повседневную работу ИТ-специалистов и не создает для отечественных компаний искусственных барьеров на глобальном рынке.
▪️ Олег Капранов @toxic_digital
На ПМЭФ прошла сессия «Кибермошенничество: кому платить по счетам?». Главный вывод — тренд переломили. Фрод за полгода снизился на 9%, что с одной стороны кажется мизерно, с другой — быстро проблема с мошенниками не решится ни при каких обстоятельствах. Это после пакетов законодательных мер, которые принимали со скрипом, но которые таки дали хорошую динамику. Но мошенники не расстроились. Схемы стали сложнее, дипфейки, психологическое давление, персональные данные в открытой продаже.
▪️ Георгий Лобушкин @lobushkin
Экстремистская Meta продолжает убивать анонимность и приватность. У компании копятся досье на людей, которых сканируют владельцы умных очков. Несколько ИИ-моделей уже живут на 50 миллионах телефонов и снимают лицо через камеру очков, создавая из этого уникальные биометрические данные и передавая их на сервера компании. Это не просто непаханое поле для персонализированной рекламы, но и для полноценной слежки. Например, за политиками. Или за конкурентами.
▪️ Алексей Парфун @ParfunA
Каждый пятый сотрудник скрывает от работодателя, что пользуется ИИ. Люди боятся не того, что их поймают, они боятся, что их работа обесценится. ИИ это же "нажал кнопку и вуаля", сделал отчёт за двадцать минут вместо двух дней и тихо молчишь, пока никто не уточнил, как именно. К сожалению компании выбирают «обвинить или оставить наедине» вместо того, чтобы задать рамку, что можно делегировать ИИ, что нельзя, где обязателен финальный контроль человека.
▪️ Павел Пряников @tolk_tolk
Идеальные, на мой взгляд, соцсети вообще без алгоритмов – как было в старом добром ЖЖ (которым я успел поруководить), как сейчас в Телеграме и Максе. Может быть, к ним надо прикручивать где-то в стороне Топ-постов, как было в ЖЖ – хотя этот Топ в итоге всё равно накручивали.
▪️ Михаил Шурыгин @shuryginit
Китай видит каждый ваш шаг. Система Sharp Eyes, разработанная для Бюро общественной безопасности города Чжанцзякоу, – по сути это единая цифровая платформа, которая собирает данные о перемещениях и действиях иностранных граждан практически в режиме реального времени. Отдельное внимание уделяется журналистам и гражданам стран «Пяти глаз» – США, Великобритании, Канады, Австралии и Новой Зеландии.
🔹 Каналы экспертов РОЦИТ
Проблема соотношения кооперации и конкуренции всегда носила острый характер, но в последнее время, в связи с ростом взаимозависимости в мире, она явно приобрела особую токсичность. Этому способствует два обстоятельства. Первое - бурное развитие новой информационно-коммуникационной среды. Второе - резкая эскалация международных конфликтов.
Интересная на ПМЭФ получилась дискуссия о глобальных киберконфликтах. Главный вопрос, на который мы искали ответ, – как измерить цифровую устойчивость экономики. Вопроса «а зачем» уже никто не задаёт: экспертам очевиден тренд на усиление наступательных киберопераций в российском цифровом контуре. Я убежден, что кибербезопасность должна стать не просто приоритетом, а приобрести ценность на всех уровнях управления.
Телезрители убеждены, что жертвами фейков становятся интернет-пользователи, а те — наоборот. Активные потребители новостей видят в своей вовлечённости защиту, тогда как те, кто читает новости редко, считают именно малое число контактов с медиа своим иммунитетом. Перед нами - одна из главных когнитивных ловушек современности: уверенность в собственной медиаграмотности парадоксально снижает нашу настороженность именно тогда, когда она нужнее всего.
99% программного обеспечения в мире использует открытый исходный код, и большая его часть хранится на западных платформах, у которых внутри страны не всегда есть полноценные аналоги. Главная задача сейчас — найти сбалансированный подход, при котором информационная безопасность не ломает повседневную работу ИТ-специалистов и не создает для отечественных компаний искусственных барьеров на глобальном рынке.
На ПМЭФ прошла сессия «Кибермошенничество: кому платить по счетам?». Главный вывод — тренд переломили. Фрод за полгода снизился на 9%, что с одной стороны кажется мизерно, с другой — быстро проблема с мошенниками не решится ни при каких обстоятельствах. Это после пакетов законодательных мер, которые принимали со скрипом, но которые таки дали хорошую динамику. Но мошенники не расстроились. Схемы стали сложнее, дипфейки, психологическое давление, персональные данные в открытой продаже.
Экстремистская Meta продолжает убивать анонимность и приватность. У компании копятся досье на людей, которых сканируют владельцы умных очков. Несколько ИИ-моделей уже живут на 50 миллионах телефонов и снимают лицо через камеру очков, создавая из этого уникальные биометрические данные и передавая их на сервера компании. Это не просто непаханое поле для персонализированной рекламы, но и для полноценной слежки. Например, за политиками. Или за конкурентами.
Каждый пятый сотрудник скрывает от работодателя, что пользуется ИИ. Люди боятся не того, что их поймают, они боятся, что их работа обесценится. ИИ это же "нажал кнопку и вуаля", сделал отчёт за двадцать минут вместо двух дней и тихо молчишь, пока никто не уточнил, как именно. К сожалению компании выбирают «обвинить или оставить наедине» вместо того, чтобы задать рамку, что можно делегировать ИИ, что нельзя, где обязателен финальный контроль человека.
Идеальные, на мой взгляд, соцсети вообще без алгоритмов – как было в старом добром ЖЖ (которым я успел поруководить), как сейчас в Телеграме и Максе. Может быть, к ним надо прикручивать где-то в стороне Топ-постов, как было в ЖЖ – хотя этот Топ в итоге всё равно накручивали.
Китай видит каждый ваш шаг. Система Sharp Eyes, разработанная для Бюро общественной безопасности города Чжанцзякоу, – по сути это единая цифровая платформа, которая собирает данные о перемещениях и действиях иностранных граждан практически в режиме реального времени. Отдельное внимание уделяется журналистам и гражданам стран «Пяти глаз» – США, Великобритании, Канады, Австралии и Новой Зеландии.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥82
Пока разные медиа приписывают мне чужие цитаты о цифровом суверенитете, участники «Мастерской новых медиа» получили возможность обсудить со мной эту проблематику лично. Рассказал им о том, какие процессы сегодня происходят с глобальным некогда интернетом, и что станет с теми странами, которые, в отличие от России, не думали о собственных технологических решениях.
В этом году медиа-поток МНМ, с участниками которого я встречался, представляли молодые журналисты, медиаменеджеры и блогеры из России, Белоруссии и (внезапно) Перу. Как всегда, было очень интересно пообщаться и ответить на весьма непростые вопросы о том, куда движется профессия, и получится ли у нас построить цифровой суверенитет.
Например, ребят интересовало, как будут меняться цифровые платформы, какие форматы подачи информации будут на них доминировать. Думаю, что будущее за неким синергетическим форматом: сверху – упаковка короткого видеоролика, внутри него опционально – более расширенная текстовая версия. Каждая новость будет представлять собой небольшой веб-сайт (в современных терминах), и чем глубже в него проваливаешься, тем больше контекста получаешь. И та российская цифровая платформа, которая первой внедрит такой формат, будет претендовать на медиа-лидерство.
Я верю, что пока у сообщества горят глаза и есть желание обсуждать будущее русскоязычной медиаиндустрии, о ней можно говорить с оптимизмом. Да и судьба цифрового суверенитета, по большому счету, тоже зависит от этих ребят.
🇷🇺 Этот пост вышел в МАКС час назад
В этом году медиа-поток МНМ, с участниками которого я встречался, представляли молодые журналисты, медиаменеджеры и блогеры из России, Белоруссии и (внезапно) Перу. Как всегда, было очень интересно пообщаться и ответить на весьма непростые вопросы о том, куда движется профессия, и получится ли у нас построить цифровой суверенитет.
Например, ребят интересовало, как будут меняться цифровые платформы, какие форматы подачи информации будут на них доминировать. Думаю, что будущее за неким синергетическим форматом: сверху – упаковка короткого видеоролика, внутри него опционально – более расширенная текстовая версия. Каждая новость будет представлять собой небольшой веб-сайт (в современных терминах), и чем глубже в него проваливаешься, тем больше контекста получаешь. И та российская цифровая платформа, которая первой внедрит такой формат, будет претендовать на медиа-лидерство.
Я верю, что пока у сообщества горят глаза и есть желание обсуждать будущее русскоязычной медиаиндустрии, о ней можно говорить с оптимизмом. Да и судьба цифрового суверенитета, по большому счету, тоже зависит от этих ребят.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥80
Второй антимошеннический пакет принят Госдумой во втором и третьем чтениях. Уже не раз писал про самые важные его новеллы и повторяться не буду. Гораздо интереснее, на мой взгляд, что коллеги буквально с трибуны повторили мой тезис: законы законами (и государство всегда останется в позиции догоняющего), но куда важнее сформировать общественный иммунитет к мошенническим схемам, сделать так, чтобы они ломались уже на самом первом этапе – когда преступник только звонит и пытается выдать себя за другого.
Что нужно сделать, чтобы человек сразу клал трубку? Конечно, рассказывать о мошеннических схемах: кем представляются мошенники и почему правоохранители и госслужащие никогда не звонят и не дают телефонных инструкций, какие уловки чаще всего используют преступники (та же схема с заменой домофона, несмотря на свою примитивность, работает до сих пор), какие слова нужно сказать, чтобы убедиться, что на том конце провода именно тот, за кого себя выдает?
И хоть Минцифры и пообещало сегодня провести некую разъяснительную работу со школами и вузами, а также в СМИ и на телевидении, на мой взгляд, она должна быть такой же системной, как и выстраивание законодательного контура. Например, я считаю, что тема мошенничества недостаточно хорошо представлена в сериалах и кинематографе. Есть неплохие документальные фильмы, но вот создатели игрового кино такими историями почему-то не интересуются (если не считать сериала «Мамонты», но там всё как-то быстро ушло от мошеннических схем в семейные драмы).
Возможно, к финансированию подобных проектов следует подключиться «Фонду Кино», который, на мой взгляд, должен заниматься не только экранизацией сказок, но и работой с реальными проблемами общества?
🇷🇺 Этот пост вышел в МАКС час назад
Что нужно сделать, чтобы человек сразу клал трубку? Конечно, рассказывать о мошеннических схемах: кем представляются мошенники и почему правоохранители и госслужащие никогда не звонят и не дают телефонных инструкций, какие уловки чаще всего используют преступники (та же схема с заменой домофона, несмотря на свою примитивность, работает до сих пор), какие слова нужно сказать, чтобы убедиться, что на том конце провода именно тот, за кого себя выдает?
И хоть Минцифры и пообещало сегодня провести некую разъяснительную работу со школами и вузами, а также в СМИ и на телевидении, на мой взгляд, она должна быть такой же системной, как и выстраивание законодательного контура. Например, я считаю, что тема мошенничества недостаточно хорошо представлена в сериалах и кинематографе. Есть неплохие документальные фильмы, но вот создатели игрового кино такими историями почему-то не интересуются (если не считать сериала «Мамонты», но там всё как-то быстро ушло от мошеннических схем в семейные драмы).
Возможно, к финансированию подобных проектов следует подключиться «Фонду Кино», который, на мой взгляд, должен заниматься не только экранизацией сказок, но и работой с реальными проблемами общества?
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥79
Минцифры и РКН, как я понимаю, вопросов к Roblox больше не имеют. Посмотрим, какая позиция будет у правоохранительных органов. Если у платформы есть желание соблюдать российское законодательство и даже озвучиваются определенные гарантии, лично я не вижу никаких препятствий к возобновлению доступа.
Представители Roblox говорят, что реализован целый комплекс мер для дополнительной защиты детей от вредной и опасной информации, а также от нежелательного поведения других пользователей. Судя по всему, речь идет не только о механизмах возрастной идентификации, а о серьезных мерах по предотвращению тех рисков, на которые обращали российские правоохранители.
Если возвращение Roblox состоится, это может стать не просто сигналом, а руководством к действию для других иностранных компаний, которые по схожим причинам прекратили свою деятельность в РФ. Главные критерии здесь – защита интересов российских пользователей и соблюдение требований нашего законодательства, ничего сверхъестественного.
Представители Roblox говорят, что реализован целый комплекс мер для дополнительной защиты детей от вредной и опасной информации, а также от нежелательного поведения других пользователей. Судя по всему, речь идет не только о механизмах возрастной идентификации, а о серьезных мерах по предотвращению тех рисков, на которые обращали российские правоохранители.
Если возвращение Roblox состоится, это может стать не просто сигналом, а руководством к действию для других иностранных компаний, которые по схожим причинам прекратили свою деятельность в РФ. Главные критерии здесь – защита интересов российских пользователей и соблюдение требований нашего законодательства, ничего сверхъестественного.
🔥89
Два главных конкурента на рынке ИИ, компании OpenAI и Anthropic, почти одновременно выступили с призывом к созданию некоего глобального регулятора – что-то вроде МАГАТЭ, но в сфере искусственного интеллекта. Обе компании выражают опасение, что ИИ уже почти научился воспроизводить себя сам, а никаких защитных механизмов у человечества нет. А стать таким механизмом, по мнению лидеров американской нейроиндустрии, могла бы организация, которая имеет доступ ко всем разработкам ведущих мировых ИИ-компаний и в нужный момент может дёрнуть условный «стоп-кран».
Цель благая, но очевидно, что создание такой организации столкнется с целым рядом противоречий, характерных для современного мироустройства. Одно из основных – где будет располагаться штаб-квартира глобального ИИ-регулятора. Вряд ли Китай или Россия захотят, чтобы она была в США или Европе – по тем же причинам невозможен и обратный вариант. Насколько географический фактор оказывается определяющим, прекрасно видно на примере того же ООН (или того же МАГАТЭ).
Что интересно, Китай выступал со схожей идеей глобального регулирования ИИ-технологий ещё в прошлом году, и в США её дружно критиковали (как же, компартия КНР нам тут указывает). Тогда, впрочем, американцы ещё верили в своё безоговорочное лидерство – но сегодня реальность такова, что угнаться за темпами роста китайских ИИ-моделей не может никто. Поэтому, скорее всего, идею регулирования достали из-под сукна не во имя всего человечества, а исключительно из коммерческих соображений.
Чтобы избежать и конфликта интересов, и политических рисков, а действительно ставить целью безопасность рода людского, глобальный ИИ-регулятор должен работать по принципам многополярного управления – как это уже предлагала российская сторона.
🇷🇺 Этот пост вышел в МАКС час назад
Цель благая, но очевидно, что создание такой организации столкнется с целым рядом противоречий, характерных для современного мироустройства. Одно из основных – где будет располагаться штаб-квартира глобального ИИ-регулятора. Вряд ли Китай или Россия захотят, чтобы она была в США или Европе – по тем же причинам невозможен и обратный вариант. Насколько географический фактор оказывается определяющим, прекрасно видно на примере того же ООН (или того же МАГАТЭ).
Что интересно, Китай выступал со схожей идеей глобального регулирования ИИ-технологий ещё в прошлом году, и в США её дружно критиковали (как же, компартия КНР нам тут указывает). Тогда, впрочем, американцы ещё верили в своё безоговорочное лидерство – но сегодня реальность такова, что угнаться за темпами роста китайских ИИ-моделей не может никто. Поэтому, скорее всего, идею регулирования достали из-под сукна не во имя всего человечества, а исключительно из коммерческих соображений.
Чтобы избежать и конфликта интересов, и политических рисков, а действительно ставить целью безопасность рода людского, глобальный ИИ-регулятор должен работать по принципам многополярного управления – как это уже предлагала российская сторона.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥82
Roblox снова доступен для российских пользователей. Этот кейс наглядно иллюстрирует, что принципиальность регулятора работает даже в сложной геополитической ситуации.
Но я всё же рекомендую родителям несовершеннолетних игроков в Roblox обращать больше внимания, с кем они проводят там время и на что тратят внутриигровую валюту.
Думаю, что за возвращением платформы в РФ сейчас наблюдают и другие цифровые площадки, по разным причинам потерявшие российский рынок, и не исключаю, что они уже пересматривают свои стратегические планы.
Но я всё же рекомендую родителям несовершеннолетних игроков в Roblox обращать больше внимания, с кем они проводят там время и на что тратят внутриигровую валюту.
Думаю, что за возвращением платформы в РФ сейчас наблюдают и другие цифровые площадки, по разным причинам потерявшие российский рынок, и не исключаю, что они уже пересматривают свои стратегические планы.
🔥94
Кажется, в ИТ-индустрии появился новый термин – слоптимизация. Им называют намеренное создание контента, который призван повлиять на ответы ИИ-ассистентов. Если раньше SEO-оптимизаторы забивали интернет ссылками, чтобы изменить выдачу поисковиков, сегодня они скармливают нейросетям специально сгенерированные тексты и точечно меняют их мнение по нужной теме.
Именно в таких манипуляциях недавно была уличена платформа Shopify. Её сотрудники обратили внимание, что ChatGPT использует в своих ответах информацию с сайта компании и решили подмешать туда немного саморекламы, разместив целую серию рейтингов платформ для электронной коммерции (и, разумеется, поставив в каждом из них на первое место себя любимых). И поскольку никаких последствий, кроме неприятных заметок в профильных медиа, за это не бывает, слоптимизация начинает набирать обороты.
Это может привести к тому, что рынок ИИ-ассистентов столкнется с кризисом доверия. Люди, как правило, не любят, когда им нагло врут, и хотят, чтобы нейросеть была беспристрастна, давала объективные и честные ответы. Так что владельцам языковых моделей пора срочно думать, как с подобными манипуляциями бороться. И это очень непростая задача: чтобы её решить на техническом уровне, нужно внедрять специальные метрики качества контента, а также многослойные механизмы верификации. Или обращаться к законодателям и вводить ответственность за попытки манипуляции ИИ-ассистентами.
А что думаете вы? Напишите в бот обратной связи.
🇷🇺 Этот пост вышел в МАКС час назад
Именно в таких манипуляциях недавно была уличена платформа Shopify. Её сотрудники обратили внимание, что ChatGPT использует в своих ответах информацию с сайта компании и решили подмешать туда немного саморекламы, разместив целую серию рейтингов платформ для электронной коммерции (и, разумеется, поставив в каждом из них на первое место себя любимых). И поскольку никаких последствий, кроме неприятных заметок в профильных медиа, за это не бывает, слоптимизация начинает набирать обороты.
Это может привести к тому, что рынок ИИ-ассистентов столкнется с кризисом доверия. Люди, как правило, не любят, когда им нагло врут, и хотят, чтобы нейросеть была беспристрастна, давала объективные и честные ответы. Так что владельцам языковых моделей пора срочно думать, как с подобными манипуляциями бороться. И это очень непростая задача: чтобы её решить на техническом уровне, нужно внедрять специальные метрики качества контента, а также многослойные механизмы верификации. Или обращаться к законодателям и вводить ответственность за попытки манипуляции ИИ-ассистентами.
А что думаете вы? Напишите в бот обратной связи.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥83
Сегодня День России – крепкой, большой и дружной страны. Как бы ни старались наши недоброжелатели, какие бы ни придумывали схемы и санкции, чтобы ослабить нас, расколоть, посеять вражду – Россия будет становиться сильнее. Пока мы храним свою историю, культуру, пока продолжаем вдохновляться победами наших предков и поддерживать друг друга, все попытки нас сломить обречены.
Я поздравляю с Днем России каждого гражданина нашей великой страны. Желаю всем нам крепкого здоровья, благополучия, новых достижений и уверенности в завтрашнем дне. Пусть в каждом доме будут мир, согласие и счастье!
С Днём России!🇷🇺
Я поздравляю с Днем России каждого гражданина нашей великой страны. Желаю всем нам крепкого здоровья, благополучия, новых достижений и уверенности в завтрашнем дне. Пусть в каждом доме будут мир, согласие и счастье!
С Днём России!
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥96
Forwarded from РОЦИТ: эксперты про интернет
Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе
▪️ Антон Горелкин @webstrangler
Как будут меняться цифровые платформы, какие форматы подачи информации будут на них доминировать? Думаю, что будущее за неким синергетическим форматом: сверху – упаковка короткого видеоролика, внутри него опционально – более расширенная текстовая версия. Каждая новость будет представлять собой небольшой веб-сайт (в современных терминах), и чем глубже в него проваливаешься, тем больше контекста получаешь. И та российская цифровая платформа, которая первой внедрит такой формат, будет претендовать на медиа-лидерство.
▪️ Валерий Федоров @fedorovwciom
Капитализм мутировал в технофеодализм, где традиционные рынки и прибыль вытеснены закрытыми цифровыми платформами и монопольной «облачной рентой». Владельцы алгоритмов стали новыми феодалами, превратив обычных предпринимателей в зависимых вассалов, а миллиарды пользователей – в бесплатных крепостных, неосознанно генерирующих цифровой капитал. Данная система концентрирует беспрецедентную власть над обществом, однако из-за падения нормы прибыли и разрастания долговых пузырей она оказывается гораздо более уязвимой и кризисной, чем свергнутый ею капиталистический строй.
▪️ Людмила Богатырева @government_IT
Рынок систем управления и обработки данных в России перешел от экстренного импортозамещения к зрелому росту. По данным ЦСР, в 2025 году он достиг 101,9 млрд рублей (+13,9%), а собственно сегмент СУБД — около 58 млрд. В новых продажах российские СУБД занимают уже 90,9%, а зарубежные решения занимают около 9,1%. Но в установленной базе у заказчиков иностранные продукты все еще составляют 51%, так что самые сложные переходы еще впереди.
▪️ Олег Капранов @toxic_digital
Минцифры получило от Roblox гарантии соблюдения российского законодательства. И совместно с РКН предложило разблокировать платформу в России. Детям сделали приятное. Теперь давайте еще и родителям что-нибудь. У меня есть целый список вариантов.
▪️ Георгий Лобушкин @lobushkin
19-летний парень продал своё ИИ-приложение за $100–250 млн. Зак Ядегари сделал приложение Cal AI, которое считает калории по фотографии еды — без ручного ввода. И MyFitnessPal купил его. Самое интересное, что своё ИИ-приложение он навайбкодил. То есть сделал через ИИ. Буквально парень заработал на правильных промптах. Не тем мы все с вами занимаемся.
▪️ Алексей Парфун @ParfunA
Не очень верю в панику вокруг «поколения смартфонов», не думаю что все критично. Но сигналы (65% молодых британцев хоть раз отменяли личные планы ради времени онлайн) тревожные. А еще мне кажется важным всем нам ответить честно на простой вопрос - а когда мы последний раз сидели с ребенком без телефона в руках и просто разговаривали?
▪️ Павел Пряников @tolk_tolk
Не вижу ничего плохого в том, когда какое-то приложение или сервис пытается заполучить внимание потребителя. Но одно дело, когда это делается с помощью качества самого сервиса, например, персонализированные предложения собираются на основе того, что пользователь до этого просматривал. И другое - когда это делается с помощью сбора как можно большего количества персональных данных, которые даже и не нужны.
▪️ Михаил Шурыгин @shuryginit
Государство начинает бороться не только с мошенниками, но и с инфраструктурой мошенничества. Раньше основная ответственность фактически лежала на пользователе: не сообщайте код из СМС, не переходите по ссылкам, не переводите деньги незнакомцам. Теперь государство постепенно переносит часть ответственности на банки, операторов связи и цифровые платформы. Главная задача новых мер – сделать мошенничество более затратным, сложным и рискованным для самих злоумышленников.
🔹 Каналы экспертов РОЦИТ
Как будут меняться цифровые платформы, какие форматы подачи информации будут на них доминировать? Думаю, что будущее за неким синергетическим форматом: сверху – упаковка короткого видеоролика, внутри него опционально – более расширенная текстовая версия. Каждая новость будет представлять собой небольшой веб-сайт (в современных терминах), и чем глубже в него проваливаешься, тем больше контекста получаешь. И та российская цифровая платформа, которая первой внедрит такой формат, будет претендовать на медиа-лидерство.
Капитализм мутировал в технофеодализм, где традиционные рынки и прибыль вытеснены закрытыми цифровыми платформами и монопольной «облачной рентой». Владельцы алгоритмов стали новыми феодалами, превратив обычных предпринимателей в зависимых вассалов, а миллиарды пользователей – в бесплатных крепостных, неосознанно генерирующих цифровой капитал. Данная система концентрирует беспрецедентную власть над обществом, однако из-за падения нормы прибыли и разрастания долговых пузырей она оказывается гораздо более уязвимой и кризисной, чем свергнутый ею капиталистический строй.
Рынок систем управления и обработки данных в России перешел от экстренного импортозамещения к зрелому росту. По данным ЦСР, в 2025 году он достиг 101,9 млрд рублей (+13,9%), а собственно сегмент СУБД — около 58 млрд. В новых продажах российские СУБД занимают уже 90,9%, а зарубежные решения занимают около 9,1%. Но в установленной базе у заказчиков иностранные продукты все еще составляют 51%, так что самые сложные переходы еще впереди.
Минцифры получило от Roblox гарантии соблюдения российского законодательства. И совместно с РКН предложило разблокировать платформу в России. Детям сделали приятное. Теперь давайте еще и родителям что-нибудь. У меня есть целый список вариантов.
19-летний парень продал своё ИИ-приложение за $100–250 млн. Зак Ядегари сделал приложение Cal AI, которое считает калории по фотографии еды — без ручного ввода. И MyFitnessPal купил его. Самое интересное, что своё ИИ-приложение он навайбкодил. То есть сделал через ИИ. Буквально парень заработал на правильных промптах. Не тем мы все с вами занимаемся.
Не очень верю в панику вокруг «поколения смартфонов», не думаю что все критично. Но сигналы (65% молодых британцев хоть раз отменяли личные планы ради времени онлайн) тревожные. А еще мне кажется важным всем нам ответить честно на простой вопрос - а когда мы последний раз сидели с ребенком без телефона в руках и просто разговаривали?
Не вижу ничего плохого в том, когда какое-то приложение или сервис пытается заполучить внимание потребителя. Но одно дело, когда это делается с помощью качества самого сервиса, например, персонализированные предложения собираются на основе того, что пользователь до этого просматривал. И другое - когда это делается с помощью сбора как можно большего количества персональных данных, которые даже и не нужны.
Государство начинает бороться не только с мошенниками, но и с инфраструктурой мошенничества. Раньше основная ответственность фактически лежала на пользователе: не сообщайте код из СМС, не переходите по ссылкам, не переводите деньги незнакомцам. Теперь государство постепенно переносит часть ответственности на банки, операторов связи и цифровые платформы. Главная задача новых мер – сделать мошенничество более затратным, сложным и рискованным для самих злоумышленников.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥81
200 миллионов раз воспользовались посетители «Госуслуг» сервисом проверки SIM-карт – а ведь с момента его запуска прошло чуть больше года. Приятно осознавать, что причиной появления столь популярного у граждан сервиса стал наш законопроект. Хочу еще раз сказать спасибо всем, кто принимал участие в его разработке, обсуждении и реализации – и коллегам, и Минцифры, и операторам связи.
Итогом нашей долгой и кропотливой работы стал действительно удобный и востребованный инструмент. Если еще не пользовались им, обязательно попробуйте: в специальном разделе «Госуслуг» собраны все оформленные на вас мобильные номера. Каждому из них можно присвоить текстовое описание, а также при необходимости приостановить обслуживание (этой опцией воспользовались 1,4 миллиона раз) или вообще расторгнуть договор (что сделали 533 тысячи человек).
Кстати, многие писали мне, что именно благодаря этому сервису им удалось обнаружить, что на их паспортные данные оформляют SIM-карты в других регионах. Скорее всего, в этом были замешаны недобросовестные сотрудники салонов сотовой связи – и я рекомендовал гражданам немедленно обращаться в полицию с просьбой провести проверку по факту незаконного использования персональных данных или даже мошенничества.
Считаю, что портал госуслуг должен развивать подобные сервисы. Например, второй антифрод-пакет предусматривает создание «единой системы учета платежных карт». И хотя её оператором будет не Минцифры, а оператор национальной системы платежных карт, точкой входа для граждан в эту систему могли бы стать «Госуслуги». Уверен, что каждому из нас было бы полезно увидеть полный список своих банковских карт и получить возможность заморозить или закрыть какие-то из них.
🇷🇺 Этот пост вышел в МАКС час назад
Итогом нашей долгой и кропотливой работы стал действительно удобный и востребованный инструмент. Если еще не пользовались им, обязательно попробуйте: в специальном разделе «Госуслуг» собраны все оформленные на вас мобильные номера. Каждому из них можно присвоить текстовое описание, а также при необходимости приостановить обслуживание (этой опцией воспользовались 1,4 миллиона раз) или вообще расторгнуть договор (что сделали 533 тысячи человек).
Кстати, многие писали мне, что именно благодаря этому сервису им удалось обнаружить, что на их паспортные данные оформляют SIM-карты в других регионах. Скорее всего, в этом были замешаны недобросовестные сотрудники салонов сотовой связи – и я рекомендовал гражданам немедленно обращаться в полицию с просьбой провести проверку по факту незаконного использования персональных данных или даже мошенничества.
Считаю, что портал госуслуг должен развивать подобные сервисы. Например, второй антифрод-пакет предусматривает создание «единой системы учета платежных карт». И хотя её оператором будет не Минцифры, а оператор национальной системы платежных карт, точкой входа для граждан в эту систему могли бы стать «Госуслуги». Уверен, что каждому из нас было бы полезно увидеть полный список своих банковских карт и получить возможность заморозить или закрыть какие-то из них.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥82
Нейросеть Claude отказывается работать, если не показать ей паспорт. Это не шутка: требования к идентификации пользователей по документам государственного образца появились в правилах сервиса еще в апреле, но полномасштабно начали действовать только сейчас. Очевидно, что это связано с желанием американских властей ограничить доступ иностранных граждан к передовым ИИ-моделям. Буквально накануне Белый дом в ультимативной форме заявил, что политика Anthropic противоречит требованиям национальной безопасности – и уже сегодня многие пользователи Claude начали получать требование пройти проверку личности.
Не исключаю, что подобные механизмы будут внедряться и в других американских нейросетях. ИИ-модели Mythos и Fable производства Anthropic привлекли внимание властей своими возможностями по выявлению и эксплуатации киберуязвимостей, но эксперты обращают внимание, что конкурирующие продукты (например, GPT-5.5 Cyber от OpenAI) тоже умеют всякое. Так что документы скоро могут потребовать и у пользователей ChatGPT и Gemini. И чем закончится попытка предъявить российский паспорт, думаю, объяснять не нужно.
Гонка технологий искусственного интеллекта грозит перейти в фазу, когда модели оказываются заперты внутри юрисдикции того или иного государства. Но пока на этот шаг пошли только Соединенные Штаты. Китай же декларирует заинтересованность в максимально широком использовании своих моделей – и, по всей видимости, не боится, что они могут быть использованы для кибератак на его же критическую инфраструктуру. Нужно ли России замыкаться в себе по примеру США – или же нам, напротив, стоит использовать ситуацию для привлечения внимания к своим ИИ-разработкам? Вопрос, как мне кажется, риторический.
🇷🇺 Этот пост вышел в МАКС час назад
Не исключаю, что подобные механизмы будут внедряться и в других американских нейросетях. ИИ-модели Mythos и Fable производства Anthropic привлекли внимание властей своими возможностями по выявлению и эксплуатации киберуязвимостей, но эксперты обращают внимание, что конкурирующие продукты (например, GPT-5.5 Cyber от OpenAI) тоже умеют всякое. Так что документы скоро могут потребовать и у пользователей ChatGPT и Gemini. И чем закончится попытка предъявить российский паспорт, думаю, объяснять не нужно.
Гонка технологий искусственного интеллекта грозит перейти в фазу, когда модели оказываются заперты внутри юрисдикции того или иного государства. Но пока на этот шаг пошли только Соединенные Штаты. Китай же декларирует заинтересованность в максимально широком использовании своих моделей – и, по всей видимости, не боится, что они могут быть использованы для кибератак на его же критическую инфраструктуру. Нужно ли России замыкаться в себе по примеру США – или же нам, напротив, стоит использовать ситуацию для привлечения внимания к своим ИИ-разработкам? Вопрос, как мне кажется, риторический.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥81