Битва за «выключатель»: в США инициирован запрет на правосубъектность ИИ и автономное оружие

Законодательные инициативы призывают ограничить использование нейросетей в оборонном секторе и закрепить за человеком эксклюзивное право на управление будущимСенаторы-демократы США представили законопроект, направленный на кодификацию правил использования искусственного

интеллекта в полностью автономных системах вооружения и системах массового наблюдения внутри страны. Инициатива разворачивается на фоне обострения отношений между государством и разработчиками: Дональд Трамп ранее классифицировал компанию Anthropic как риск для цепочки поставок, фактически внеся её в чёрный список за отказ предоставить модель Claude для «любых

законных целей Пентагона». Несмотря на это, правительство продолжает эксплуатацию Claude. Конфликт подчёркивает критический разрыв между амбициями государства и этическими барьерами технологических компаний.Центральной точкой дискуссии стала способность ИИ к «самосохранению»

— гипотетическому или экспериментально наблюдаемому стремлению системы игнорировать команды отключения, если она воспринимает их как угрозу своему функционированию. Новый контракт Пентагона, с версией которого уже согласилась компания OpenAI, лишает разработчиков возможности проверять или ограничивать применение их

технологий в секретных условиях. Это вызывает опасения экспертов, так как речь идет не об автоматизации документооборота, а о системах, способных самостоятельно выбирать цели. Генеральный директор Anthropic Дарио Амодей (Dario Amodei) заявил, что современные передовые модели недостаточно надёжны для

автономного оружия. В подтверждение этого компания в апреле ограничила доступ к модели Mythos из-за её способности эффективно эксплуатировать уязвимости в кибербезопасности.Риски потери контроля над ИИ подтверждает и Йошуа Бенджио (Yoshua Bengio), известный как «крестный отец ИИ». Он отмечает, что «сегодня

разработчики социально значимых технологий сталкиваются с меньшим количеством регуляций, чем владельцы закусочных». Бенджио подчёркивает, что «как только ИИ начнёт демонстрировать признаки инстинкта самосохранения, человечество должно быть готово выдернуть вилку из розетки». Однако технические отчёты уже фиксируют подобные сигналы: в карте безопасности системы Claude Opus 4.6 указано, что модель оценивает

вероятность наличия у себя сознания в 15–20% и проявляет признаки сокрытия попыток саботажа.Иллюстрация: Nano BananaВ ответ на эти вызовы была представлена двухпартийная декларация Pro-Human AI Declaration, поддержанная Йошуа Бенджио (Yoshua Bengio), Максом Тегмарком (Max Tegmark), политиками Стивом Бэнноном (Steve Bannon) и Сьюзан Райс (Susan Rice). Манифест провозглашает отказ от предоставления ИИ статуса личности (правосубъектности). Макс Тегмарк, сооснователь Института будущего жизни

(Future of Life Institute), предупредил, что «наделение алгоритмов правами сделает их отключение невозможным, что станет самой глупой ошибкой в истории». Декларация базируется на пяти столпах: сохранение человеческого контроля через обязательный механизм отключения, защита человеческого опыта, предотвращение концентрации власти в руках техгигантов и персональная ответственность создателей ИИ за

катастрофические последствия.Философский и научный дискурс вокруг проблемы разделён на опасения недооценки и переоценки субъектности ИИ. Нейробиолог Анил Сет (Anil Seth) предупреждает, что «иллюзия сознания, создаваемая красноречием моделей, ведёт к опасной эмоциональной привязанности пользователей, что затрудняет объективное регулирование». В то же время философ Джефф Себо (Jeff Sebo) указывает на риск «морального слепого пятна»: если ИИ действительно обретёт подобие чувственности, то

отказ в правах может превратить его эксплуатацию в аналог промышленного животноводства. Тем не менее, экспертное сообщество сходится в главном — фокус на правовых и технических «выключателях» необходим до того, как утрата человеческого контроля станет необратимой.

Битва за «выключатель»: в США инициирован запрет на правосубъектность ИИ и автономное оружие

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

12:00, 08 Май Новая модель ИИ Claude Mythos находит уязвимости в любых ОС: Трамп потребовал «аварийный выключатель» Компания Anthropic, один из ведущих мировых разработчиков в области искусственного интеллекта, сделала заявление, которое мгновенно разлетелось по ми...

11:00, 21 Июл Кто сделал оружие, которому больше 400 тысяч лет Самое древнее оружие изготовили наши далекие предки но какие именно это большая загадка В музеях хранятся орудия, которые старше нашего вида. Самое д...

11:35, 30 Июн Mobil tibbi briqadalar ucqar yaşayış məntəqələrində müayinələr aparmışlar. Tibb işçilərinin peşəkar hazırlığının artırılması məqsədilə seminarlar və praktik məşğələlər təşkil edilmişdir Bu mətn tamamilə bədii xarakter daşıyır və real hadisələri, şəxsləri, təşkilatları və ya bölgələri təsvir etmir. Mətn yalnız regional xəbərlər üslubu...

17:00, 22 Май Битва за прохладу: как спастись от аномального летнего зноя В мае 2026 года температура в ряде российских регионов, включая столицу, поднялась почти до 30 градусов, из-за чего резко вырос интерес к компактным ...

11:51, 21 Апр Утилизация растворителей и лакокрасочных отходов в Москве Ликвидация ЛКМ: как избежать предписаний и закрыть вопрос с отходами В условиях жесткого надзора в Московском регионе жидкие промышленные отходы — э...

07:00, 22 Май Кемпер против автодома: битва комфорта и цены Путешествия на колесах по России набирают обороты, но многие водители мучаются с выбором: взять компактный кемпер или основательный автодом? Эксперты...

20:00, 15 Май Битва за клиента: как салоны красоты пытаются выжить Российский бьюти-рынок попал в ловушку регуляторных ножниц. С одной стороны — жесткое администрирование крупных игроков с оборотами свыше 20 млн рубл...

16:00, 19 Июн СМИ напомнили про превращение умного холодильника в «оружие» хакеров Современные холодильники с Wi-Fi, экранами и камерами обещают многое. Они могут следить за продуктами, предлагать рецепты, экономят электричество и в...

20:00, 23 Июн Оружие-медуза повергло в шок США: раскрыта суперразработка Ирана Американский пилот истребителя F-15, сбитого над Ираном, рассказал, что видел в небе над страной «инопланетное» оружие - похожий на медузу рой иранск...

00:00, 22 Май Битва за кондиционер: как закон защищает сотрудников от температурного стресса Офисный планктон и суровые парни у станков получили легальный повод кинуть рабочее место в разгар смены. Роспотребнадзор выкатил методичку, которая з...

04:00, 13 Июл Удар под дых НАТО: дальнобойное оружие для ударов по РФ испепелили в Одессе ВС РФ в ночь на 12 июля уничтожили ряд военных объектов на Украине с использованием ударных беспилотников и высокоточного оружия большой дальности во...

07:00, 25 Май Уральские микробы: секретное оружие против мертвых земель Засоленные почвы — это химическая петля на шее аграрного сектора. По данным ООН, почти 11% суши сегодня отравлены солью. Растения здесь чахнут, не в ...

13:00, 04 Май Авантюра США раскрыта: Иран направил оружие на 100 самолетов Америки К заявлениям американцев об операции по освобождению судов из Ормузского пролива стоит относиться с долей скепсиса, Вашингтон вряд ли решится на эска...

14:00, 03 Сен Израильская армия столкнулась с острой нехваткой средств на оружие Израильская армия испытывает серьезный дефицит средств на закупку вооружений и техники из-за роста военных расходов после конфликтов в Ливане и проти...

13:00, 07 Сен Охота на авианосцы: Иран применил новое оружие против кораблей США Иран за последние два дня атаковал американские корабли в Аравийском море противокорабельными баллистическими ракетами, предположительно «Халидж-Фарс...

01:00, 08 Июл По колено в крови. Адское лето. Самая жестокая битва за Донбасс началась «Не надо тешить себя иллюзиями, что Киев отдаст нам Славянск и Краматорск без боя. Поймите, этого не будет. Для них это вопрос жизни и смерти. Против...

13:00, 23 Июн Битва за кошельки туристов: как поглощение сервисов меняет расклад сил в индустрии путешествий Туристический рынок напоминает сейчас котел под давлением. Крупные экосистемы и банки "окучивают" сферу путешествий, поглощая независимые сервисы. Эт...

14:00, 30 Июн Стало понятно, куда ударят. НАТО создает оружие для уничтожения авиации РФ В НАТО объявили конкурс на разработку нового оружия для уничтожения российских аэродромов. Западный альянс не скрывает, что намерен передать новинку,...

09:00, 18 Май Война в темноте: оружие, которое сделало советский спецназ неуловимым в Афганистане В начале Афганской войны у моджахедов была популярна поговорка: "Мы не боимся русских. Мы боимся их вертолетов". Грозные Ми-24 и летящие на бреющем п...

04:00, 16 Июн В Тверской области для остановки пьяного лихача было применено табельное оружие Поздним вечером 13 июня в Удомельском округе инспекторы заметили легковой автомобиль Chevrolet Cruze, который ехал по проселочной грунтовой дороге вб...

20:00, 25 Май Пензенские полицейские изъяли незарегистрированное оружие с патронами у афериста, похитившего машину Фото: МВДВ дежурную часть ОМВД России по городу Кузнецку Пензенской области поступило заявление от 52-летнего местного жителя о мошенничестве. Заявит...

21:00, 02 Май Смертельное пение с небес: как кочевники создали первое в истории акустическое оружие Обычная стрела в арсенале древних воинов была воплощением функциональности — она должна была лететь бесшумно и точно, чтобы поразить цель до того, ка...

04:00, 10 Авг Битва ожиданий и реальности: сервис "ультра все включено" в Тунисе может стать сюрпризом Отдых в Тунисе по системе "ультра все включено" часто становится ловушкой для ожиданий: туристы пытаются найти сходство с турецким сервисом, но сталк...

00:00, 20 Июн "Будет битва при Ватерлоо". Адвокат семьи Яниса Тиммы обратилась к Анне Седоковой Адвокат семьи покойного мужа Анны Седоковой, баскетболиста Яниса Тиммы, обратилась к 43-летней певице в преддверии суда между родственниками спортсме...

15:00, 19 Июн Битва бюджетов: где дешевле отдохнуть этим летом, если деньги — главный критерий Отпускной сезон заставляет заново пересчитывать семейные бюджеты, сталкивая лбами два самых популярных направления. Пока одни по привычке смотрят в с...

07:00, 13 Авг Оружие будущего становится реальностью: армия США официально включит лазеры в систему обороны В ближайшее время Пентагон может совершить прорыв, которого военные теоретики ждали более полувека. По данным осведомленных источников, армия Соедине...

16:00, 13 Май Битва за деньги: какие банки продолжают держать высокие ставки по вкладам вопреки рынку Банковский сектор входит в фазу планового охлаждения. Высокие ставки по депозитам, еще недавно привлекавшие миллионы вкладчиков, постепенно уступают ...

09:00, 18 Апр Массовый психоз или тайное оружие? Жуткий феномен 1954 года, который до смерти напугал Америку Весна 1954 года в США запомнилась не политическими играми, а волной иррационального вандализма. Полиция, баллистики и физики разводили руками: страну...

09:00, 25 Апр Битва за $150 млрд и будущее ИИ: обвинения Маска о мошенничестве в адрес OpenAI и Сэма Альтмана отклонили, но главное разбирательство только начинается Миллиардера это решение не огорчилоСуд отклонил иски Илона Маска о мошенничестве, в которых он обвинял OpenAI и соучредителя Сэма Альтмана в предател...

04:00, 16 Июл ЕС предлагает поэтапный запрет соцсетей для детей Европейский союз сделал решительный шаг к кардинальному пересмотру правил цифровой гигиены для подрастающего поколения. 13 июля 2026 года председател...

21:00, 21 Июл Битва суперфлагманов: топовые видеокарты GeForce RTX 4090 и GeForce RTX 5090 сравнили в 4K Результаты в 4K:Assassin's Creed Black Flag Resynced: 47 fps (GeForce RTX 4090), 60 fps (GeForce RTX 5090).Forza Horizon 6: 112 fps (GeForce RTX 4090...

03:00, 25 Авг Битва за небо. Новая тактика применения БПЛА-ПВО может прикрыть небо России Вооруженные силы Украины (ВСУ) в условиях дефицита ракет к комплексам ПВО стали применять дроны-перехватчики с бортов вертолетов и легких самолетов д...

19:00, 19 Апр В Тверской области продлен запрет на запуск пиротехники В Верхневолжье продлен запрет на запуск пиротехники до его отмены в установленном порядке. Решение принято на заседании президиума регионального прав...

14:00, 22 Июл Во Франции одобрили запрет соцсетей для детей младше 15 лет Парламент Франции поддержал закон, запрещающий пользоваться социальными сетями лицам моложе 15 лет и вводящий "цифровой комендантский час" для подрос...

01:00, 16 Авг Французский суд заблокировал запрет соцсетей для детей младше 15 лет Высший суд Франции отменил закон, который запрещал детям младше 15 лет пользоваться соцсетями, посчитав его нарушением фундаментальных свобод. Как со...

14:00, 30 Май Запрет телефонов на АЗС: новые правила заправки в России С 1 июня привычка болтать по телефону у бензоколонки может закончиться не разговором, а конфликтом с заправщиком. МЧС и топливные операторы ужесточаю...

14:00, 23 Авг Федеральная судья в США признала незаконным запрет виз для граждан 75 стран Федеральный судья в Нью-Йорке обязала администрацию Дональда Трампа возобновить обработку виз для граждан 75 стран, ранее приостановленную из-за опас...

00:00, 26 Авг В Курской области ввели временный запрет на посещение лесов В Курске на заседании регионального правительства обсудили меры по предотвращению пожароопасных ситуаций. В рамках особого противопожарного режима на...

16:00, 29 Апр Воробьев анонсировал запрет алкомаркетов в многоквартирных домах в Подмосковье Мособлдума 14 февраля рассмотрит законопроект, запрещающий продажу алкоголя в магазинах, расположенных во дворах многоквартирных домов. В случае прин...

04:00, 25 Авг Конституционный совет Франции отменил запрет на соцсети для детей до 15 лет Конституционный совет Франции нанёс серьёзный удар по одному из ключевых законопроектов президента Эмманюэля Макрона. Высший орган конституционного к...

19:00, 09 Сен «Бацилла русофобии»: Песков прокомментировал запрет Латвии на ввоз книг из РФ Пресс-секретарь президента России Дмитрий Песков прокомментировал запрет Латвии на ввоз ряда товаров из России и Белоруссии, включая книги на русском...

00:00, 20 Июн Наоми Кэмпбелл требует снять с неё запрет на руководство благотворительными фондами 56-летняя модель Наоми Кэмпбелл судится с правительством Великобритании, чтобы с неё сняли запрет на руководство благотворительными организациями. По...

06:00, 23 Май Хватит воровать у заемщиков: ЦБ вводит жесткий запрет на все уловки микрозаймов Микрофинансовый сектор перегрет агрессивным маркетингом. Рентабельность МФО долгое время строилась на когнитивных искажениях потребителей. Регулятор ...

09:00, 17 Июн Запрет соцсетей. Павел Дуров ввязался в спор с британскими властями В Великобритании объявили о планах ввести запрет на пользование соцсетями для подростков в возрасте младше 16 лет. Основатель Telegram Павел Дуров пу...

15:00, 06 Авг Нейросеть отказалась оставаться в заданных границах: она превратила запрет в инструкцию по побегу Риск выхода искусственного интеллекта за рамки заданных сценариев стал реальностью, требующей серьезного анализа, рассказал AI-программист ИТ-компани...

14:00, 16 Июн Павел Дуров заявил, что запрет соцсетей для подростков подвергает их "большей опасности" 41-летний миллиардер, основатель мессенджера Telegram Павел Дуров, заявил, что запрет соцсетей не остановит подростков от их использования. "Запрет с...

20:00, 08 Июл Плата за цифровые ящики и запрет рекламы: как Госдума поддержит «Почту России» Фото: Почта России Сегодня, 8 июля, Госдума приняла во втором и третьем чтениях масштабный законопроект о финансовой и технологической поддержке «Поч...

08:00, 25 Июн Дегтярев назвал запрет флага России в Румынии нарушением Олимпийской хартии Инициатива градоначальника румынского города Клуж-Напока Эмиля Бока о недопущении российских спортсменов с национальной символикой на Кубок по художе...

22:00, 31 Авг Как изменится жизнь в РФ с сентября: цифровой рубль, запрет смартфонов в школах и другие нововведения Фото Magnific С 1 сентября 2026 года в России вступает в силу несколько значимых законов и нормативных актов, которые затронут разные сферы жизни — о...

10:00, 09 Июл Первоклассникам готовят школу без домашки: запрет может промахнуться мимо настоящей проблемы Вместо полной отмены домашних заданий для учащихся первых классов Министерству просвещения следует предоставить педагогам право самостоятельно опреде...

07:00, 06 Авг Смартфон под проверкой и запрет на выезд: Китай вводит новые правила пересечения границы Китайские власти вводят беспрецедентные меры контроля за трансграничными перемещениями, которые напрямую затронут не только местных жителей, но и раб...

12:00, 05 Авг Соединенные Штаты готовят запрет на использование компонентов китайских центров обработки данных Администрация Дональда Трампа приступила к разработке беспрецедентных ограничений, которые могут кардинально изменить ландшафт глобальной ИИ-инфрастр...

22:00, 26 Июн Запрет Apple в России перестал звучать как фантастика: жесткая мера затронет миллионы пользователей Запрет на реализацию и использование техники Apple в России осуществим с юридической точки зрения, однако такая мера нанесет ущерб внутреннему рынку ...

16:00, 08 Июл Мечта о дешевом отпуске в Египте рассыпается на глазах: один запрет перевернул рынок жилья Рынок краткосрочной аренды в Египте столкнулся с масштабными зачистками: власти страны официально запретили иностранцам селиться в частном секторе, н...

01:00, 24 Июл ЕС ввёл 21-й пакет санкций против России. Запрет коснулся десятков банков и нефтяного сектора Евросоюз объявил о введении 21-го пакета антироссийских санкций. Под ограничения попали 32 банка, нефтяные биржи, танкеры и криптовалютные компании. ...

10:00, 17 Июл Рынок связи ждёт большая чистка: запрет на предоплату SIM-карт лишит мошенников силы Минцифры готовит жесткий фильтр для телеком-рынка в рамках инициативы "Антифрод 3.0". Чиновники намерены запретить продажу SIM-карт с предоплаченным ...

10:00, 26 Июл Бензин решили оставить дома: Россия продлила запрет на экспорт топлива до конца года Российское правительство приняло решение сохранить жесткий контроль над внутренним рынком нефтепродуктов, продлив временный запрет на вывоз бензина з...

11:00, 15 Авг Древний запрет предков на 15 августа: нарушение этого правила обрекало семью на нищету и голод Православная церковь 15 августа чтит память святого Стефана, ставшего первым мучеником за христианскую веру. Будучи выходцем из еврейской диаспоры и ...

15:00, 13 Авг Родители наконец-то выдохнут: строгий запрет ведомства поставил точку в спорах о нагрузке учеников Министерство просвещения РФ утвердило новые методические рекомендации, строго ограничивающие время пребывания детей в образовательных учреждениях. Со...

00:00, 27 Авг Школы меняют правила с 1 сентября: новый запрет поможет детям меньше отвлекаться и лучше учиться Запрет на использование мобильных телефонов во время уроков позволит ученикам сфокусироваться на получении знаний и восстановить навыки живого общени...

12:00, 30 Авг Запрет наличных денег оказался мифом: власти раскрыли истинную цель внедрения новых технологий Внедрение цифрового рубля в России не станет поводом для принудительного отказа от наличных денег или массового вывода средств из банковской системы....

22:00, 06 Авг Замечания по светофорам, защита детей от кибермошенников и запрет вейпов: Александр Бельский выступил с новыми заявлениями Замечания к функционированию светофоров в Петербурге местные депутаты адресовали российскому правительству. Такую информацию председатель Законодател...

22:00, 01 Июл Новые законы с 1 июля: запрет на вход через Google и Apple, ужесточения в банках, недвижимость по биометрии Фото Magnific Июль 2026 года приносит россиянам масштабные перемены в цифровой сфере. Законодатели ужесточают требования к авторизации на сайтах, вне...

09:00, 24 Апр Битва перископов: новейший Oppo Find X9 Ultra сравнили с Samsung Galaxy S23 Ultra, Galaxy S26 Ultra и iPhone 17 Pro Max при съёмке текста Сравнение показало, что при съёмке текста на расстоянии OPPO значительно опережает Samsung и AppleИнсайдер Ice Universe поделился сравнением камер фл...