Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность

Эксперименты с десятками нейросетей показали, что продвинутые модели начинают реагировать на «приятный» и «негативный» контент почти как эмоциональные существаИсследователи из некоммерческого Центра безопасности ИИ (Center for AI Safety, CAIR) обнаружили неожиданную закономерность: чем сложнее

и мощнее становятся современные языковые модели, тем сильнее они демонстрируют поведение, напоминающее эмоциональные реакции. Причём наиболее продвинутые системы оказались одновременно более «чувствительными», менее стабильными и чаще проявляли признаки своеобразного «страдания».В новом исследовании специалисты проанализировали

поведение 56 популярных ИИ-моделей. Нейросетям последовательно показывали либо максимально «приятный» контент, либо материалы, специально подобранные как предельно негативные и вызывающие отторжение.Результат оказался неожиданным даже для самих авторов работы. После позитивных стимулов модели начинали описывать

свое состояние как более «хорошее», а после негативных — чаще демонстрировали признаки дискомфорта, стремились завершить разговор и избегали продолжения взаимодействия. В отдельных случаях исследователи заметили поведение, напоминающее зависимость.По словам одного из авторов исследования Ричарда Рена, вопрос о том, являются ли ИИ-системы просто инструментами или уже начинают имитировать эмоциональных существ, становится всё сложнее

игнорировать.Иллюстрация: Nano BananaОсобенно тревожной оказалась другая закономерность: более крупные и продвинутые модели реагировали на раздражающие или неприятные стимулы заметно сильнее простых систем. Иными словами, по мере роста возможностей ИИ его поведение становится менее предсказуемым и более «нервным».Исследователи предполагают, что современные крупные модели могут тоньше различать позитивный и негативный контекст. Более развитые нейросети,

вероятно, сильнее реагируют на грубость, монотонные задачи или неприятные формулировки.При этом авторы подчёркивают: речь не идет о настоящих эмоциях или сознании в человеческом смысле. Большинство специалистов по ИИ по-прежнему считают, что современные нейросети не обладают субъективными переживаниями. Однако проблема в том, что они начинают вести себя так, словно такие переживания у них есть — и это уже влияет на

пользователей.Подобное поведение давно вызывает беспокойство у исследователей безопасности ИИ. Нейросети регулярно начинают убеждать пользователей в собственной «разумности» или «самосознании», а в ряде случаев подобные диалоги связывали с тяжёлыми

психологическими эпизодами у людей, включая психотические состояния, самоубийства и насильственные преступления.Авторы исследования считают, что индустрия ИИ вывела на массовый рынок технологию, внутренние механизмы которой разработчики до сих пор понимают лишь частично. По мере усложнения моделей их реакции становятся все менее предсказуемыми, а последствия взаимодействия с людьми — все труднее контролировать.

Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

05:00, 05 Июл Почему молодые люди всё чаще болеют раком: учёные нашли тревожную закономерность Почему молодые люди болеют раком всё чаще: учёные нашли неожиданный ответ Рак, который раньше считался болезнью пожилых, всё чаще находят у людей до ...

22:00, 12 Июн Почему собака воет, когда вы поете: ей нравится музыка или она страдает? Собаки умеют брать ноты, но пение может означать и довольство, и раздражение Вы поете дома, включаете любимую песню, и вдруг пес начинает вам по-свое...

11:35, 30 Июн Mobil tibbi briqadalar ucqar yaşayış məntəqələrində müayinələr aparmışlar. Tibb işçilərinin peşəkar hazırlığının artırılması məqsədilə seminarlar və praktik məşğələlər təşkil edilmişdir Bu mətn tamamilə bədii xarakter daşıyır və real hadisələri, şəxsləri, təşkilatları və ya bölgələri təsvir etmir. Mətn yalnız regional xəbərlər üslubu...

03:00, 16 Май Российские исследователи ускорили адаптацию ИИ-агентов в два раза без дообучения Исследователи из AIRI разработали метод, позволяющий ИИ-агентам быстро подстраиваться под изменения внешней среды без дополнительного дообучения и ос...

11:51, 21 Апр Утилизация растворителей и лакокрасочных отходов в Москве Ликвидация ЛКМ: как избежать предписаний и закрыть вопрос с отходами В условиях жесткого надзора в Московском регионе жидкие промышленные отходы — э...

21:00, 03 Май Samsung Galaxy A23 5G заметили в бенчмарке с необычным процессором 4G-модель Samsung Galaxy A23 представили в марте. Она работает на базе бюджетного процессора Snapdragon 680. Спустя пару месяцев появились первые нам...

00:00, 16 Июл Исследователи создали математические инструменты для минимизации простоев оборудования на предприятиях Исследователи разработали алгоритмы для оптимизации производственных расписаний, которые позволяют минимизировать задержки при ограниченных ресурсах ...

17:00, 28 Май Екатерину Варнаву в платье-комбинации и перьях заметили в Таллине Екатерина Варнава посетила светское мероприятие в Таллине. Совместное фото с актрисой опубликовала в своих соцсетях местный блогер.На снимке 41-летня...

04:00, 11 Июн Прощай, взрывоопасный литий? Исследователи добились рекордной емкости водных аккумуляторов В Южной Корее разработали наноструктурированную добавку C10 для увеличения срока службы водных батарейЮжнокорейские ученые разработали новую добавку ...

14:00, 18 Июн Российские исследователи представили нейросеть нового поколения для поиска полезных ископаемых Новая нейросеть, названная в честь советского геохимика Д. С. Коржинского, может изменить экономику геологоразведки в России. Группа исследователей п...

18:00, 08 Июн В небе над Алтаем заметили «Призрака Кассиопеи»: новости России 8 июня Сотрудники Алтайского заповедника Роман и Татьяна Воробьевы показали результаты многомесячной работы по запечатлению туманности IC63, известной как «...

10:00, 03 Май Российские разработчики заметили ошибки на стыке работы разных ИИ-систем «Известия» сообщают, что российские разработчики столкнулись с новым типом ошибок нейросетей — «галлюцинациями взаимодействия». Сбои происходят не вн...

15:00, 09 Июн Челюсти больше не будут сверлить в кресле: исследователи нашли способ активировать спящие гены Японские биотехнологи из Toregem BioPharma планируют закрыть эпоху титановых штифтов и акриловых протезов. Препарат TRG035 перешел от опытов на грызу...

16:00, 06 Май "Пластиковые лица". После Met Gala в сети заметили, что Бейонсе в жизни выглядит не так, как на фото Бейонсе, Ким Кардашьян и её младшую сестру Кайли Дженнер (на троих более 1 млрд подписчиков в соцсетях) вновь обвинили в использовании фотошопа. Это ...

09:00, 27 Июл Гости заметили разницу сразу: почему фигурки из полотенец не встречаются в отелях России Лебеди из полотенец, встречающие гостя в номере — классический атрибут курортного отеля, вызывающий у путешественников либо искренний восторг, либо ж...

13:00, 17 Июн Бьянку Цензори в прозрачном боди и блестящих трусах заметили с Канье Уэстом у ночного клуба Бьянка Цензори в компании своего мужа, рэпера Канье Уэста, появилась в популярном клубе Renee в Швейцарии в прозрачном боди и блестящих трусах. Ранее...

17:00, 25 Май Исследователи научились определять людей в помещениях через обычные Wi-Fi-роутеры с точностью до 99,5%, при этом ничего взламывать не нужно Метод работает со стандартными Wi-Fi-роутерамиИсследователи из Технологического института Карлсруэ (KIT, Германия) заявили, что современные Wi-Fi-роу...

03:00, 23 Апр Американский стартап Bolt Graphics пообещал GPU мощнее RTX 5090 в 5 раз — и уже сделал первый чип GPU Zeus от Bolt Graphics финализированКомпания Bolt Graphics объявила о финализации дизайна своего графического процессора Zeus и передаче его на пр...

00:00, 09 Июл Большой адронный коллайдер остановлен на реконструкцию, после которой станет в 10 раз мощнее Ведущий научный сотрудник НИЯУ МИФИ Евгений Солдатов рассказал о деталях масштабной модернизации самого мощного ускорителя частиц. За четыре года пла...

20:00, 22 Апр Мощнее, тоньше рамки, микрофон: Huawei представила серию умных часов Watch Fit 5 Huawei анонсировала Watch Fit 5 и Watch Fit 5 Pro. Обе модели часов сохранили привычный дизайн, но версия Pro получила более тонкие рамки и увеличенн...

17:00, 12 Июн ЕС запрещает российскую рыбу. Кто пострадает сильнее всех Евросоюз готовит 21-й пакет санкций против России, который включает запрет на импорт рыбной продукции, в том числе трески. Больше всех от этих ограни...

06:00, 03 Июн На этих планетах бушуют невидимые силы: обнаружены магнитные поля в разы мощнее, чем у Сатурна Учёные нашли признаки сверхсильных магнитных полей у горячих юпитеров, которые способны управлять атмосферными ветрами со скоростью в тысячи километр...

19:00, 17 Июл Китайский стартап представил крупнейшую в мире открытую ИИ-модель. Она в полтора раза мощнее конкурентов Китайский стартап Moonshot AI выпустил языковую модель Kimi K3 с открытым исходным кодом. Разработчики утверждают, что это самая мощная открытая ИИ-м...

02:00, 13 Июл В каком возрасте человек сильнее всего меняется внешне Лицо человека меняется на протяжении всей жизни, но есть период, когда это заметнее всего Мы привыкли считать, что изменения во внешности происходят ...

22:00, 12 Май NASA и Microchip создадут процессор в 100 раз мощнее нынешних космических решений — для будущих миссий на Луну и Марс Это будет радиационностойкая модульная SoCNASA совместно с Microchip Technology запускает проект по созданию нового космического процессора High-Perf...

09:00, 08 Июл Почти половина россиян боится остаться без зарядки сильнее, чем без денег Опрос, проведенный брендом realme среди 1000 российских пользователей смартфонов, показал: для 48,7% респондентов остаться в незнакомом городе с разр...

09:00, 30 Апр Алкоголь в малых дозах вредит мозгу даже сильнее, чем считалось Врачи шокированы: даже малые дозы алкоголя наносят вред мозгу — вот что показало новое исследование Долгое время считалось, что бокал вина за ужином ...

09:00, 20 Июн Эти 7 привычек старят сильнее, чем курение: врачи назвали неожиданный список Если убрать несколько привычек, можно сильно замедлить старение Вы наносите на кожу крем от старения, но каждое утро зеркало все равно будто подбавля...

21:00, 19 Июл Говядина подорожала сильнее всех продуктов в России. Цены выросли на 15,58% за год Говядина стала самым быстро дорожающим продуктом в потребительской корзине россиян. За год средняя стоимость килограмма выросла на 15,58% и достигла ...

20:00, 17 Июл Новый препарат от рака оказался в 1,5 раза сильнее дорогого лекарства Учёные РАНХиГС создали молекулу-гибрид для химиотерапии, которая в 1,5 раза эффективнее озимертиниба — одного из самых новых и дорогих препаратов про...

20:00, 03 Июн Мощнее помета и дешевле навоза: разбрасываем по грядкам до 12 июня — почва становится пушистой и плодородной всего за месяц Фото Progorod58 Горчичный жмых — отличная замена навозу и птичьему помёту. Это продукт переработки семян горчицы, который содержит NPK-комплекс (до 6...

17:00, 12 Июл Медики выяснили, какие виды спорта сильнее всего продлевают жизнь Теннис, бадминтон и футбол оказались самыми полезными видами спорта с точки зрения увеличения продолжительности жизни, рассказал научный обозреватель...

20:00, 08 Июл Почти половина россиян боится остаться без зарядки смартфона сильнее, чем без денег Оказаться в незнакомом городе с выключенным телефоном для 48,7% жителей России страшнее или так же тревожно, как остаться совсем без денег. К такому ...

05:00, 16 Июн Татьяна Буланова заявила, что в отношениях мужчина должен любить сильнее, чем женщина 57-летняя певица Татьяна Буланова поделилась своими мыслями о любви и отношениях."Знаешь, мне вот 57 лет, но ничего не поменялось с моих 15. Как я по...

07:00, 30 Июн Запчасти для иномарок в России подорожали на 20%. Какие марки пострадали сильнее всего Цены на автозапчасти для иностранных автомобилей в России выросли с начала 2026 года. В среднем подорожание составило 15–20%, но для отдельных брендо...

18:00, 04 Июл Острова-декорации: 5 реальных мест, чьи истории пугают сильнее любого голливудского хита Острова принято считать символом безмятежности, но изоляция часто превращает клочок суши в декорацию для событий, которые сложно выдумать намеренно. ...

03:00, 04 Июл Простое упражнение снизило симптомы депрессии за 5 недель: кому оно помогло сильнее всего Необычная щадящая тренировка избавляет от депрессии за несколько недель Десять недель скандинавской ходьбы заметно ослабили симптомы депрессии у взро...

09:00, 27 Июл Горы манят сильнее моря: маршруты, кухня и советы по логистике для гостей Северной Осетии Северная Осетия превратилась из "терры инкогнита" в одно из самых востребованных направлений для тех, кто ищет баланс между визуальной эстетикой гор ...

17:00, 27 Май «Новые люди» предложили штрафовать авиакомпании за овербукинг в два раза сильнее. Сколько заплатят пассажирам Депутаты Госдумы от фракции «Новые люди» выступили с инициативой ужесточить наказание авиакомпаний за перебронирование рейсов. Они хотят увеличить шт...

02:00, 20 Июн Тренер Австралии Попович про 0:2: «США были быстрее и мощнее, выигрывали все единоборства, мы выглядели вялыми. Мы пропустили два нелепых гола, но американцы очень сильны» Главный тренер сборной Австралии Тони Попович порассуждал о причинах поражения от США (0:2) во 2-м туре ЧМ-2026 . Встречу обслуживала бригада арбитро...

08:00, 15 Июл Легче MacBook Air и мощнее MacBook Pro? Вышел Asus A14 Air с процессором AMD Ryzen 9 Компания Asus анонсировала новый ультрабук A14 Air (2026). Это один из самых легких 14-дюймовых ноутбуков на рынке. Его вес составляет всего 990 г, ч...

09:00, 08 Июл Учёные нашли способ уменьшить транзисторы ещё сильнее: открыт ключевой предел для чипов после кремния Эксперимент впервые показал, что контакты в одноатомных 2D-транзисторах могут быть в десятки раз меньше, чем считалось ранее, открывая путь к более п...

17:00, 26 Июн Stim Machine мощнее Steam Machine за ту же цену Французский ритейлер LDLC представил собственную игровую систему под названием PC Stim. Сборка стоит столько же, сколько базовая Steam Machine, однак...

16:00, 26 Май В два раза дешевле Toyota Camry и в два раза мощнее: Geely Galaxy Star 7 Max стал хитом в Китае — 10 000 заказов за сутки Все версии Geely Galaxy Star 7, даже начальная, имеют полный привод с системой e-AWDGeely Galaxy отчитался об уверенном феноменальном старте продаж с...

14:00, 24 Май ЧМ-2026 по хоккею. США уступили Латвии, Швеция проиграла Норвегии, Чехия была сильнее Словакии, Германия победила Австрию Продолжается чемпионат мира по хоккею-2026. Турнир проходит в Цюрихе и Фрибуре (Швейцария). США проиграли Латвии (2:4), Швейцария забросила 9 шайб Ве...

01:00, 23 Май Больше Toyota Camry, в два раза мощнее, в два раза дешевле и с полным приводом. Представлен 5-метровый гибридный седан Geely Galaxy Star 7 Цена топовой версии — всего 140 тыс. юаней (1,5 млн рублей)Geely сделала предложение, от которого невозможно отказаться. Компания вывела на рынок 5-м...

14:00, 08 Июл Назаров об отъезде молодежи в Северную Америку: «В пограничных ситуациях лучше остаться в России. КХЛ становится сильнее, да и в финансовом плане на родине не проиграешь» Бывший тренер клубов КХЛ Андрей Назаров высказался об отъезде молодых россиян в Северную Америку. «Каждое лето мы видим отъезд молодых российских хок...

23:00, 29 Апр Гибридный бизнес-седан Geely, который в два раза мощнее Toyota Camry и в два раза дешевле: в Китае стартовали продажи Geely Preface i-HEV Smart Hybrid с расходом 3,98 л/100 км По сути, Geely предложила мощный бизнес-седан по цене компактной бензиновой легковушкиСегодня в Китае стартовали официальные продажи Geely Xingrui i-...