Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность

Эксперименты с десятками нейросетей показали, что продвинутые модели начинают реагировать на «приятный» и «негативный» контент почти как эмоциональные существаИсследователи из некоммерческого Центра безопасности ИИ (Center for AI Safety, CAIR) обнаружили неожиданную закономерность: чем сложнее

и мощнее становятся современные языковые модели, тем сильнее они демонстрируют поведение, напоминающее эмоциональные реакции. Причём наиболее продвинутые системы оказались одновременно более «чувствительными», менее стабильными и чаще проявляли признаки своеобразного «страдания».В новом исследовании специалисты проанализировали

поведение 56 популярных ИИ-моделей. Нейросетям последовательно показывали либо максимально «приятный» контент, либо материалы, специально подобранные как предельно негативные и вызывающие отторжение.Результат оказался неожиданным даже для самих авторов работы. После позитивных стимулов модели начинали описывать

свое состояние как более «хорошее», а после негативных — чаще демонстрировали признаки дискомфорта, стремились завершить разговор и избегали продолжения взаимодействия. В отдельных случаях исследователи заметили поведение, напоминающее зависимость.По словам одного из авторов исследования Ричарда Рена, вопрос о том, являются ли ИИ-системы просто инструментами или уже начинают имитировать эмоциональных существ, становится всё сложнее

игнорировать.Иллюстрация: Nano BananaОсобенно тревожной оказалась другая закономерность: более крупные и продвинутые модели реагировали на раздражающие или неприятные стимулы заметно сильнее простых систем. Иными словами, по мере роста возможностей ИИ его поведение становится менее предсказуемым и более «нервным».Исследователи предполагают, что современные крупные модели могут тоньше различать позитивный и негативный контекст. Более развитые нейросети,

вероятно, сильнее реагируют на грубость, монотонные задачи или неприятные формулировки.При этом авторы подчёркивают: речь не идет о настоящих эмоциях или сознании в человеческом смысле. Большинство специалистов по ИИ по-прежнему считают, что современные нейросети не обладают субъективными переживаниями. Однако проблема в том, что они начинают вести себя так, словно такие переживания у них есть — и это уже влияет на

пользователей.Подобное поведение давно вызывает беспокойство у исследователей безопасности ИИ. Нейросети регулярно начинают убеждать пользователей в собственной «разумности» или «самосознании», а в ряде случаев подобные диалоги связывали с тяжёлыми

психологическими эпизодами у людей, включая психотические состояния, самоубийства и насильственные преступления.Авторы исследования считают, что индустрия ИИ вывела на массовый рынок технологию, внутренние механизмы которой разработчики до сих пор понимают лишь частично. По мере усложнения моделей их реакции становятся все менее предсказуемыми, а последствия взаимодействия с людьми — все труднее контролировать.

Сообщает www.ixbt.com

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью:

 

Топ Новости Недели

• Подготовка документов для участия в аукционе на право пользования недрами является сложным и ответственным процессом, требующим профессионального подхода...
• Рабочие ХБ перчатки с ПВХ покрытием являются надежным и практичным средством защиты рук...
• Зубная паста Glossy Cherry является отличным выбором для ежедневного ухода, объединяя в себе качественное очищение, приятный вкус и заботу о здоровье зубов и десен...
• Ремонт кофемашин De’Longhi — это процесс, требующий внимательного подхода и профессиональных навыков...
• Хорошая семейная стоматология становится не просто местом лечения, а партнером в заботе о здоровье всей семьи...
• Новые сервера Lineage 2 с высоким онлайном представляют собой идеальное сочетание динамики, конкуренции и возможностей для роста...
• Продукты халяль занимают важное место в системе питания, основанной на нормах ислама...
• Выбор банкетного зала — это важный этап подготовки к мероприятию, который требует внимательного анализа и учета множества деталей...
• Эндотрахеальная трубка является незаменимым инструментом в современной медицине, позволяющим спасать жизни в самых сложных ситуациях...
• Выбор детской стоматологии — это важное решение для родителей, от которого зависит не только здоровье зубов ребенка, но и его отношение к лечению в будущем...
• Сертификация и декларирование товаров являются важными элементами современной системы контроля качества...
• В последние годы служба по контракту приобретает всё большую актуальность, особенно в контексте текущих задач, стоящих перед государством...
• Душевая система с тропическим душем является современным и практичным решением для обустройства ванной комнаты...
• Нейросети для генерации докладов уже сегодня являются мощным инструментом, который помогает быстро и качественно решать учебные задачи...
• Современный интерьер невозможно представить без удобной и стильной мебели, которая не только выполняет практическую функцию, но и формирует атмосферу уюта...
• Гель Intimly отражает эти тенденции, предлагая сочетание эффективности и бережного ухода...
• Выбор стоматолога — важное решение, от которого напрямую зависит здоровье зубов и общее самочувствие...
• Необычные обручальные кольца становятся всё более популярным выбором среди современных пар, стремящихся подчеркнуть свою индивидуальность и создать символ любви с уникальным характером....
• Archibald Gran Comfort от Poltrona Frau — это не просто предмет мебели, а тщательно продуманное дизайнерское решение, объединяющее комфорт, эстетику и высокое качество исполнения...
• Аксессуары для грузовых автомобилей являются важной частью современной транспортной инфраструктуры...