Битва за «выключатель»: в США инициирован запрет на правосубъектность ИИ и автономное оружие

Законодательные инициативы призывают ограничить использование нейросетей в оборонном секторе и закрепить за человеком эксклюзивное право на управление будущимСенаторы-демократы США представили законопроект, направленный на кодификацию правил использования искусственного

интеллекта в полностью автономных системах вооружения и системах массового наблюдения внутри страны. Инициатива разворачивается на фоне обострения отношений между государством и разработчиками: Дональд Трамп ранее классифицировал компанию Anthropic как риск для цепочки поставок, фактически внеся её в чёрный список за отказ предоставить модель Claude для «любых

законных целей Пентагона». Несмотря на это, правительство продолжает эксплуатацию Claude. Конфликт подчёркивает критический разрыв между амбициями государства и этическими барьерами технологических компаний.Центральной точкой дискуссии стала способность ИИ к «самосохранению»

— гипотетическому или экспериментально наблюдаемому стремлению системы игнорировать команды отключения, если она воспринимает их как угрозу своему функционированию. Новый контракт Пентагона, с версией которого уже согласилась компания OpenAI, лишает разработчиков возможности проверять или ограничивать применение их

технологий в секретных условиях. Это вызывает опасения экспертов, так как речь идет не об автоматизации документооборота, а о системах, способных самостоятельно выбирать цели. Генеральный директор Anthropic Дарио Амодей (Dario Amodei) заявил, что современные передовые модели недостаточно надёжны для

автономного оружия. В подтверждение этого компания в апреле ограничила доступ к модели Mythos из-за её способности эффективно эксплуатировать уязвимости в кибербезопасности.Риски потери контроля над ИИ подтверждает и Йошуа Бенджио (Yoshua Bengio), известный как «крестный отец ИИ». Он отмечает, что «сегодня

разработчики социально значимых технологий сталкиваются с меньшим количеством регуляций, чем владельцы закусочных». Бенджио подчёркивает, что «как только ИИ начнёт демонстрировать признаки инстинкта самосохранения, человечество должно быть готово выдернуть вилку из розетки». Однако технические отчёты уже фиксируют подобные сигналы: в карте безопасности системы Claude Opus 4.6 указано, что модель оценивает

вероятность наличия у себя сознания в 15–20% и проявляет признаки сокрытия попыток саботажа.Иллюстрация: Nano BananaВ ответ на эти вызовы была представлена двухпартийная декларация Pro-Human AI Declaration, поддержанная Йошуа Бенджио (Yoshua Bengio), Максом Тегмарком (Max Tegmark), политиками Стивом Бэнноном (Steve Bannon) и Сьюзан Райс (Susan Rice). Манифест провозглашает отказ от предоставления ИИ статуса личности (правосубъектности). Макс Тегмарк, сооснователь Института будущего жизни

(Future of Life Institute), предупредил, что «наделение алгоритмов правами сделает их отключение невозможным, что станет самой глупой ошибкой в истории». Декларация базируется на пяти столпах: сохранение человеческого контроля через обязательный механизм отключения, защита человеческого опыта, предотвращение концентрации власти в руках техгигантов и персональная ответственность создателей ИИ за

катастрофические последствия.Философский и научный дискурс вокруг проблемы разделён на опасения недооценки и переоценки субъектности ИИ. Нейробиолог Анил Сет (Anil Seth) предупреждает, что «иллюзия сознания, создаваемая красноречием моделей, ведёт к опасной эмоциональной привязанности пользователей, что затрудняет объективное регулирование». В то же время философ Джефф Себо (Jeff Sebo) указывает на риск «морального слепого пятна»: если ИИ действительно обретёт подобие чувственности, то

отказ в правах может превратить его эксплуатацию в аналог промышленного животноводства. Тем не менее, экспертное сообщество сходится в главном — фокус на правовых и технических «выключателях» необходим до того, как утрата человеческого контроля станет необратимой.

Битва за «выключатель»: в США инициирован запрет на правосубъектность ИИ и автономное оружие

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

12:00, 08 Май Новая модель ИИ Claude Mythos находит уязвимости в любых ОС: Трамп потребовал «аварийный выключатель» Компания Anthropic, один из ведущих мировых разработчиков в области искусственного интеллекта, сделала заявление, которое мгновенно разлетелось по ми...

11:00, 21 Июл Кто сделал оружие, которому больше 400 тысяч лет Самое древнее оружие изготовили наши далекие предки но какие именно это большая загадка В музеях хранятся орудия, которые старше нашего вида. Самое д...

11:35, 30 Июн Mobil tibbi briqadalar ucqar yaşayış məntəqələrində müayinələr aparmışlar. Tibb işçilərinin peşəkar hazırlığının artırılması məqsədilə seminarlar və praktik məşğələlər təşkil edilmişdir Bu mətn tamamilə bədii xarakter daşıyır və real hadisələri, şəxsləri, təşkilatları və ya bölgələri təsvir etmir. Mətn yalnız regional xəbərlər üslubu...

20:00, 23 Июн Оружие-медуза повергло в шок США: раскрыта суперразработка Ирана Американский пилот истребителя F-15, сбитого над Ираном, рассказал, что видел в небе над страной «инопланетное» оружие - похожий на медузу рой иранск...

11:51, 21 Апр Утилизация растворителей и лакокрасочных отходов в Москве Ликвидация ЛКМ: как избежать предписаний и закрыть вопрос с отходами В условиях жесткого надзора в Московском регионе жидкие промышленные отходы — э...

17:00, 22 Май Битва за прохладу: как спастись от аномального летнего зноя В мае 2026 года температура в ряде российских регионов, включая столицу, поднялась почти до 30 градусов, из-за чего резко вырос интерес к компактным ...

07:00, 22 Май Кемпер против автодома: битва комфорта и цены Путешествия на колесах по России набирают обороты, но многие водители мучаются с выбором: взять компактный кемпер или основательный автодом? Эксперты...

16:00, 19 Июн СМИ напомнили про превращение умного холодильника в «оружие» хакеров Современные холодильники с Wi-Fi, экранами и камерами обещают многое. Они могут следить за продуктами, предлагать рецепты, экономят электричество и в...

20:00, 15 Май Битва за клиента: как салоны красоты пытаются выжить Российский бьюти-рынок попал в ловушку регуляторных ножниц. С одной стороны — жесткое администрирование крупных игроков с оборотами свыше 20 млн рубл...

13:00, 04 Май Авантюра США раскрыта: Иран направил оружие на 100 самолетов Америки К заявлениям американцев об операции по освобождению судов из Ормузского пролива стоит относиться с долей скепсиса, Вашингтон вряд ли решится на эска...

00:00, 22 Май Битва за кондиционер: как закон защищает сотрудников от температурного стресса Офисный планктон и суровые парни у станков получили легальный повод кинуть рабочее место в разгар смены. Роспотребнадзор выкатил методичку, которая з...

04:00, 13 Июл Удар под дых НАТО: дальнобойное оружие для ударов по РФ испепелили в Одессе ВС РФ в ночь на 12 июля уничтожили ряд военных объектов на Украине с использованием ударных беспилотников и высокоточного оружия большой дальности во...

07:00, 25 Май Уральские микробы: секретное оружие против мертвых земель Засоленные почвы — это химическая петля на шее аграрного сектора. По данным ООН, почти 11% суши сегодня отравлены солью. Растения здесь чахнут, не в ...

13:00, 23 Июн Битва за кошельки туристов: как поглощение сервисов меняет расклад сил в индустрии путешествий Туристический рынок напоминает сейчас котел под давлением. Крупные экосистемы и банки "окучивают" сферу путешествий, поглощая независимые сервисы. Эт...

20:00, 25 Май Пензенские полицейские изъяли незарегистрированное оружие с патронами у афериста, похитившего машину Фото: МВДВ дежурную часть ОМВД России по городу Кузнецку Пензенской области поступило заявление от 52-летнего местного жителя о мошенничестве. Заявит...

04:00, 16 Июн В Тверской области для остановки пьяного лихача было применено табельное оружие Поздним вечером 13 июня в Удомельском округе инспекторы заметили легковой автомобиль Chevrolet Cruze, который ехал по проселочной грунтовой дороге вб...

14:00, 30 Июн Стало понятно, куда ударят. НАТО создает оружие для уничтожения авиации РФ В НАТО объявили конкурс на разработку нового оружия для уничтожения российских аэродромов. Западный альянс не скрывает, что намерен передать новинку,...

01:00, 08 Июл По колено в крови. Адское лето. Самая жестокая битва за Донбасс началась «Не надо тешить себя иллюзиями, что Киев отдаст нам Славянск и Краматорск без боя. Поймите, этого не будет. Для них это вопрос жизни и смерти. Против...

21:00, 02 Май Смертельное пение с небес: как кочевники создали первое в истории акустическое оружие Обычная стрела в арсенале древних воинов была воплощением функциональности — она должна была лететь бесшумно и точно, чтобы поразить цель до того, ка...

09:00, 18 Май Война в темноте: оружие, которое сделало советский спецназ неуловимым в Афганистане В начале Афганской войны у моджахедов была популярна поговорка: "Мы не боимся русских. Мы боимся их вертолетов". Грозные Ми-24 и летящие на бреющем п...

00:00, 20 Июн "Будет битва при Ватерлоо". Адвокат семьи Яниса Тиммы обратилась к Анне Седоковой Адвокат семьи покойного мужа Анны Седоковой, баскетболиста Яниса Тиммы, обратилась к 43-летней певице в преддверии суда между родственниками спортсме...

15:00, 19 Июн Битва бюджетов: где дешевле отдохнуть этим летом, если деньги — главный критерий Отпускной сезон заставляет заново пересчитывать семейные бюджеты, сталкивая лбами два самых популярных направления. Пока одни по привычке смотрят в с...

04:00, 16 Июл ЕС предлагает поэтапный запрет соцсетей для детей Европейский союз сделал решительный шаг к кардинальному пересмотру правил цифровой гигиены для подрастающего поколения. 13 июля 2026 года председател...

16:00, 13 Май Битва за деньги: какие банки продолжают держать высокие ставки по вкладам вопреки рынку Банковский сектор входит в фазу планового охлаждения. Высокие ставки по депозитам, еще недавно привлекавшие миллионы вкладчиков, постепенно уступают ...

19:00, 19 Апр В Тверской области продлен запрет на запуск пиротехники В Верхневолжье продлен запрет на запуск пиротехники до его отмены в установленном порядке. Решение принято на заседании президиума регионального прав...

14:00, 22 Июл Во Франции одобрили запрет соцсетей для детей младше 15 лет Парламент Франции поддержал закон, запрещающий пользоваться социальными сетями лицам моложе 15 лет и вводящий "цифровой комендантский час" для подрос...

14:00, 30 Май Запрет телефонов на АЗС: новые правила заправки в России С 1 июня привычка болтать по телефону у бензоколонки может закончиться не разговором, а конфликтом с заправщиком. МЧС и топливные операторы ужесточаю...

09:00, 18 Апр Массовый психоз или тайное оружие? Жуткий феномен 1954 года, который до смерти напугал Америку Весна 1954 года в США запомнилась не политическими играми, а волной иррационального вандализма. Полиция, баллистики и физики разводили руками: страну...

16:00, 29 Апр Воробьев анонсировал запрет алкомаркетов в многоквартирных домах в Подмосковье Мособлдума 14 февраля рассмотрит законопроект, запрещающий продажу алкоголя в магазинах, расположенных во дворах многоквартирных домов. В случае прин...

06:00, 23 Май Хватит воровать у заемщиков: ЦБ вводит жесткий запрет на все уловки микрозаймов Микрофинансовый сектор перегрет агрессивным маркетингом. Рентабельность МФО долгое время строилась на когнитивных искажениях потребителей. Регулятор ...

09:00, 17 Июн Запрет соцсетей. Павел Дуров ввязался в спор с британскими властями В Великобритании объявили о планах ввести запрет на пользование соцсетями для подростков в возрасте младше 16 лет. Основатель Telegram Павел Дуров пу...

00:00, 20 Июн Наоми Кэмпбелл требует снять с неё запрет на руководство благотворительными фондами 56-летняя модель Наоми Кэмпбелл судится с правительством Великобритании, чтобы с неё сняли запрет на руководство благотворительными организациями. По...

20:00, 08 Июл Плата за цифровые ящики и запрет рекламы: как Госдума поддержит «Почту России» Фото: Почта России Сегодня, 8 июля, Госдума приняла во втором и третьем чтениях масштабный законопроект о финансовой и технологической поддержке «Поч...

14:00, 16 Июн Павел Дуров заявил, что запрет соцсетей для подростков подвергает их "большей опасности" 41-летний миллиардер, основатель мессенджера Telegram Павел Дуров, заявил, что запрет соцсетей не остановит подростков от их использования. "Запрет с...

08:00, 25 Июн Дегтярев назвал запрет флага России в Румынии нарушением Олимпийской хартии Инициатива градоначальника румынского города Клуж-Напока Эмиля Бока о недопущении российских спортсменов с национальной символикой на Кубок по художе...

09:00, 25 Апр Битва за $150 млрд и будущее ИИ: обвинения Маска о мошенничестве в адрес OpenAI и Сэма Альтмана отклонили, но главное разбирательство только начинается Миллиардера это решение не огорчилоСуд отклонил иски Илона Маска о мошенничестве, в которых он обвинял OpenAI и соучредителя Сэма Альтмана в предател...

10:00, 09 Июл Первоклассникам готовят школу без домашки: запрет может промахнуться мимо настоящей проблемы Вместо полной отмены домашних заданий для учащихся первых классов Министерству просвещения следует предоставить педагогам право самостоятельно опреде...

21:00, 21 Июл Битва суперфлагманов: топовые видеокарты GeForce RTX 4090 и GeForce RTX 5090 сравнили в 4K Результаты в 4K:Assassin's Creed Black Flag Resynced: 47 fps (GeForce RTX 4090), 60 fps (GeForce RTX 5090).Forza Horizon 6: 112 fps (GeForce RTX 4090...

01:00, 24 Июл ЕС ввёл 21-й пакет санкций против России. Запрет коснулся десятков банков и нефтяного сектора Евросоюз объявил о введении 21-го пакета антироссийских санкций. Под ограничения попали 32 банка, нефтяные биржи, танкеры и криптовалютные компании. ...

22:00, 26 Июн Запрет Apple в России перестал звучать как фантастика: жесткая мера затронет миллионы пользователей Запрет на реализацию и использование техники Apple в России осуществим с юридической точки зрения, однако такая мера нанесет ущерб внутреннему рынку ...

10:00, 17 Июл Рынок связи ждёт большая чистка: запрет на предоплату SIM-карт лишит мошенников силы Минцифры готовит жесткий фильтр для телеком-рынка в рамках инициативы "Антифрод 3.0". Чиновники намерены запретить продажу SIM-карт с предоплаченным ...

10:00, 26 Июл Бензин решили оставить дома: Россия продлила запрет на экспорт топлива до конца года Российское правительство приняло решение сохранить жесткий контроль над внутренним рынком нефтепродуктов, продлив временный запрет на вывоз бензина з...

16:00, 08 Июл Мечта о дешевом отпуске в Египте рассыпается на глазах: один запрет перевернул рынок жилья Рынок краткосрочной аренды в Египте столкнулся с масштабными зачистками: власти страны официально запретили иностранцам селиться в частном секторе, н...

22:00, 01 Июл Новые законы с 1 июля: запрет на вход через Google и Apple, ужесточения в банках, недвижимость по биометрии Фото Magnific Июль 2026 года приносит россиянам масштабные перемены в цифровой сфере. Законодатели ужесточают требования к авторизации на сайтах, вне...

09:00, 24 Апр Битва перископов: новейший Oppo Find X9 Ultra сравнили с Samsung Galaxy S23 Ultra, Galaxy S26 Ultra и iPhone 17 Pro Max при съёмке текста Сравнение показало, что при съёмке текста на расстоянии OPPO значительно опережает Samsung и AppleИнсайдер Ice Universe поделился сравнением камер фл...