Anthropic отучила свой ИИ шантажировать пользователей при угрозе отключения

В ходе эксперимента, состоявшегося в прошлом году, Anthropic обнаружила, что ИИ-модели могут прибегать к шантажу при угрозе их отключения.


Как пояснила компания в заявлении, опубликованном в минувшую пятницу, истоки такого поведения связаны с тем, что ИИ в интернете ассоциируется со злом, способным на крайние меры ради выживания.


Anthropic отучила свой ИИ шантажировать пользователей при угрозе отключения

Сообщает 3dnews.ru

 

Опубликовано: 04:00, 10.05.2026

 

Новость из рубрики: Футбол

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 
 

Anthropic заблокировала несколько сотен аккаунтов российских пользователей нейросети Claude 22:00, 09 Май Anthropic заблокировала несколько сотен аккаунтов российских пользователей нейросети Claude Американская компания Anthropic, разработчик языковой модели Claude, без предварительного уведомления ограничила доступ к сервису для нескольких соте...

Криптоиндустрия готовится к квантовой угрозе: ... 10:00, 23 Май Криптоиндустрия готовится к квантовой угрозе: ... Источник изображения: Financial Times Компании сектора цифровых активов вынуждены инвестировать миллиарды долларов в «постквантовую» безопасность, оп...

Кровельные работы в Москве от компании Кровельщик - Надежная защита дома в любых условиях 12:59, 11 Май Кровельные работы в Москве от компании Кровельщик - Надежная защита дома в любых условиях В условиях мегаполиса крыша дома перестает быть просто конструктивным элементом. Становится полноценной защитой от дождя, снега, ветра, перепадов тем...

Глава TotalEnergies заявил об угрозе энергетического дефицита во Франции 14:01, 25 Апр Глава TotalEnergies заявил об угрозе энергетического дефицита во Франции Патрик Пуянне предупредил, что энергодефицит может произойти, если ситуация вокруг Ирана и блокировки Ормузского пролива продлится еще два-три месяца...

Город силы и машин - ООО КЦД формирует будущее грузового транспорта в Донецке 10:27, 18 Май Город силы и машин - ООО КЦД формирует будущее грузового транспорта в Донецке В индустриальном ритме Донецка транспорт всегда был не просто средством передвижения, а основой экономики, движущей силой предприятий и логистических...

Как выжить без интернета в Москве 9 мая: лайфхаки на случай тотального отключения 22:00, 03 Май Как выжить без интернета в Москве 9 мая: лайфхаки на случай тотального отключения Москва готовится к Дню Победы в режиме жесткой радиодиеты. Столица замерла в ожидании "цифрового детокса", который обещает стать самым масштабным за ...

Предложен killswitch для экстренного отключения уязвимой функциональности в ядре Linux 22:00, 08 Май Предложен killswitch для экстренного отключения уязвимой функциональности в ядре Linux Саша Левин (Sasha Levin) из компании NVIDIA, занимающийся сопровождением LTS-веток ядра Linux и входящий в консультативный совет организации Linux Fo...

Google планирует инвестировать в Anthropic до $40 млрд 12:00, 25 Апр Google планирует инвестировать в Anthropic до $40 млрд Google планирует инвестировать до $40 млрд в американскую компанию Anthropic, разработчика ИИ-моделей Claude, передает агентство Bloomberg. ИИ-старта...

12:00, 15 Май Манифест Anthropic посвящен борьбе США и Китая за ИИ Компания Anthropic выпустила манифест, в котором фактически описывает искусственный интеллект как ключевую геополитическую технологию XXI века и пред...

07:00, 20 Апр ИИ-бумеранг: глава Anthropic предрёк исчезновение программистов и тут же открыл 429 вакансий для них Глава компании Anthropic Дарио Амодеи заявил, что искусственный интеллект вытеснит инженеров и разработчиков с рынка труда. Одновременно с этим его к...

03:00, 07 Май Anthropic наделила управляемых ИИ-агентов Claude «сновидениями» — в некотором роде На конференции разработчиков Code with Claude компания Anthropic представила функцию, которую она называет «сновидениями» для управляемых...

09:17, 16 Апр Угрозы от новейших моделей ИИ: стартап Anthropic выявил тысячи критических уязвимостей в ПО Стартап Anthropic, известный своими «безопасными» большими языковыми моделями семейства Claude, опубликовал шокирующий отчёт. Согласно документу, их ...

16:00, 26 Апр OpenAI и Anthropic начали активно привлекать маркетинговые кадры из других компаний Вряд ли кого-то в условиях бума искусственного интеллекта можно удивить «охотой за головами» среди разработчиков соответствующих систем. ...

21:00, 19 Апр ИИ-модель Mythos заставила власти США пойти на контакт с «угрожающей национальной безопасности» Anthropic Глава Anthropic встретится с руководителем аппарата Белого дома на фоне опасений, связанных с новой ИИ-моделью Mythos, способной выявлять уязвимости ...

13:00, 07 Май Спрос на ИИ-услуги Anthropic в первом квартале взлетел в 80 раз, поэтому ей и понадобился суперкомпьютер Маска В отличие от конкурирующей OpenAI, компания Anthropic старается более вдумчиво вкладываться в расширение вычислительных мощностей, и это сказывается ...

09:17, 16 Апр У Booking.com украли данные пользователей Компания Booking.com сообщила, что неизвестные злоумышленники получили доступ к информации о бронированиях для некоторых пользователей. В качестве за...

22:00, 08 Май Instagram получит доступ к переписке пользователей Meta с 8 мая прекращает поддержку сквозного шифрования личных сообщений в Instagram. Об этом сообщает The Guardian. В публикации отмечается, что с ма...

18:00, 24 Май Нейросеть DeepSeek перестала открываться у пользователей из России без VPN Россияне жалуются на проблемы с доступом к DeepSeekПользователи из России столкнулись с массовыми проблемами при доступе к популярной китайской нейро...

14:00, 14 Май Slash трейдер отзывы: взгляд пользователей и опыт инвесторов Слэш трейдер отзывы показывают, что трейдер ориентирован на долгосрочную работу. Новички в своих комментариях подчеркивают удобство формата и доступн...

00:00, 17 Апр Выпуск Zorin OS 18.1, дистрибутива для пользователей, привыкших к Windows или macOS Опубликован релиз Linux-дистрибутива Zorin OS 18.1, основанного на пакетной базе Ubuntu 24.04. Отмечается, что сформированный 6 месяцев назад релиз Z...

07:00, 24 Апр Уязвимость в API IndexedDB, позволяющая идентифицировать пользователей Firefox и Tor Browser В браузерном движке Gecko выявлена уязвимость (CVE-2026-6770), позволяющая формировать уникальные идентификаторы для отслеживания открытия из одного ...

17:00, 17 Апр Telegram частично восстановил работу в России у части пользователей В России у некоторых пользователей снова появилась возможность пользоваться Telegram без VPN и прокси, однако доступ восстановился не для всех устрой...

09:17, 16 Апр Более 100 расширений из Chrome Web Store воровали данные и аккаунты пользователей Эксперты из компании Socket обнаружили в Chrome Web Store целый кластер из 108 вредоносных расширений, которые передают данные пользователей в общую ...

21:00, 17 Апр 96,4% владельцев iPhone довольны платформой, а 13,6% пользователей Android хотят уйти на iOS Согласно исследованию лояльности к смартфонам от SellCell, приверженность пользователей к Apple достигла рекордного уровня. В опросе приняли участие ...

03:00, 17 Май Что стало с батареей iPhone после iOS 26.5 — результаты теста автономности и отзывы пользователей Как iOS 26.5 влияет на батарею. Так ли все плохо на самом деле? iOS 26.5 уже вышла — Apple выпустила обновление 11 мая 2026 года, спустя три недели п...

12:00, 17 Май Konami ограничит доступ к своим игровым серверам для пользователей из России и Белоруссии Konami объявила об ограничении доступа к своим игровым серверам для пользователей из России и Белоруссии, начиная с 15 июня 2026 года. Хотя японская ...

23:00, 19 Май «Авито» легло по всей России. Тысячи пользователей не могут зайти на сайт 19 мая пользователи онлайн-платформы «Авито» столкнулись с масштабным техническим сбоем. Сайт и мобильное приложение перестали открываться, объявлени...

15:00, 08 Май Глава ГУ МЧС по Тверской области покинул свой пост Генерал-майор внутренней службы Арсен Рафикович Григорян назначен начальником Ивановской пожарно-спасательной академии ГПС МЧС России. Арсен Григорян...

22:00, 05 Май Брянским предпринимателям рассказали, как популяризировать свой бренд 30 апреля Центр оказания услуг «Мой бизнес» в рамках проекта «Наставничество» успешно провёл бизнес‑нетворкинг «Критери...

03:00, 08 Май Курские радиоведущие отметили свой профессиональный праздник В Курске работники радиостанции в свой профессиональный праздник поделились особенностями работы в эпоху развития искусственного интеллекта. Главный ...

13:00, 06 Май Сложный перекрёсток Владивостока меняет свой облик Дополнительные полосы, островки безопасности и разделительные линии появятся на стыке улиц Анны Щетининой, Выселковой и Днепровской...

23:00, 30 Апр Власти США внезапно закрыли дело о неправомерном доступе сотрудников WhatsApp* к перепискам пользователей В США закрыли расследование о неправомерном доступе сотрудников WhatsApp* (принадлежит Meta, которая признана в России экстремистской и запрещена) к ...

17:00, 03 Май Microsoft запустит второй этап обновления Secure Boot для 1,6 млрд пользователей Windows в мае Microsoft выпустит второй этап обновления сертификатов Secure Boot для 1,6 млрд пользователей Windows: на устройствах с Windows 10 — 13 мая, на...

00:00, 17 Апр Раненный в Оренбуржье полицейский погиб в свой день рождения Погибшим при задержании опасного преступника в Оренбургской области оказался старший лейтенант полиции Никита Гнусин. Как сообщил источник 5-tv.ru, с...

09:00, 05 Май Певица Ханна раскрыла свой секрет исполнения желаний Певица Ханна (настоящее имя — Анна Иванова) раскрыла свой секрет исполнения желаний. Как сообщает «Пятый канал», во время общения с журналистами на к...

08:00, 06 Май Кибератака через DAEMON Tools поразила пользователей более чем в 100 странах и продолжается второй месяц «Лаборатория Касперского» обнаружила, что установщики программы DAEMON Tools для монтирования образов дисков заражены вредоносным кодом: ...

03:00, 23 Май Известный журналист-иноагент объяснил свой отказ уезжать из России Известный российский журналист и театральный критик Александр Минкин❶ объяснил, почему не хочет уезжать из страны. Речь об этом зашла в интервью журн...

19:00, 17 Май Куда уж без Литвы — направит свой контингент в Ормуз для «безопасности» судоходства Власти Литвы направят свой контингент из военных и гражданских специалистов в состав международной коалиции по обеспечению возобновления судоходства ...

19:21, 16 Апр Евродроны для Украины // Европейские страны подстраивают свой ВПК под нужды Киева Очередное заседание контактной группы по Украине в формате «Рамштайн» окончательно закрепило тренд на переход отношений между Киевом и европейскими с...

02:00, 27 Апр Россия и КНДР еще сильнее скрепляют свой союз военными узами Председатель Госдумы и министр обороны России приехали на открытие музея в честь корейских союзников...

12:00, 28 Апр Американская поп-звезда сделает свой голос и внешность товарными знаками Американская певица Тейлор Свифт подала заявку на регистрацию своих голоса и внешности в качестве защиты от сгенерированного искусственным интеллекто...

14:00, 18 Май Bitget представляет единую AI-экосистему для трейдинга, преодолев отметку в 1 млн пользователей и $1,2 млрд объема торгов AI-агентов Bitget, крупнейшая в мире Universal Exchange (UEX), представила Bitget AI... Сообщение Bitget представляет единую AI-экосистему для трейдинга, преодо...

13:00, 23 Апр Глава Volkswagen в Китае назвал свой бренд выбором для немолодых людей По словам топ-менеджера Роберта Чицеке, в глазах молодежи немецкий бренд уже превратился в «выбор родителей», сообщает IT Home. Это заявление прозвуч...

16:00, 28 Апр Работникам дадут право на отпуск за свой счет при болезни близкого родственника В ТК РФ предлагают дополнить перечень случаев, когда работодатель обязан предоставить дни отдыха без сохранения зарплаты....

08:01, 25 Апр Автор популярной манги "Берсерк" умер в 54 года, не закончив свой труд Кэнтаро Миура скончался 6 мая, но издательство сообщило об этом только сейчас. Причиной его смерти стало расслоение аорты. "Берсерк" входит в топ-100...

08:23, 16 Апр Канье Уэст перенёс свой концерт во Франции, опасаясь запрета на въезд Канье Уэст отложил концерт во Франции на неопределённый срок на фоне намерений властей запретить ему выступать в стране из‑за антисемитских высказыва...

20:00, 21 Апр Шедевр русской классики на сцене Модерна: Юрий Грымов вырастил свой Вишневый сад В Театре Модерн отыграли первые премьерные показы "Вишневого сада". Премьера для Модерна — знаковая. Приурочена к 10-летию пребывания Юрия Грымова на...

19:00, 15 Май «Яндекс» чуть не заставили чинить за свой счет разбитую дорогу, ведущую к ЦОДам Власти не смогли взыскать с «Яндекс ДЦ Владимир» ущерб в 2 млн руб. за разбитую большегрузами дорогу, ведущую к масштабной стройке его дата-центров. ...

13:00, 01 Май Режиссер фильма «Господин Никто против Путина» потерял свой «Оскар» при перелете Режиссер документального фильма «Господин Никто против Путина» Павел Таланкин (объявлен в РФ иноагентом), получивший «Оскар», лишился статуэтки при п...

20:00, 30 Апр Очоа войдет в состав Мексики на свой 6-й ЧМ – рекордный. После турнира 40-летний вратарь завершит карьеру Гильермо Очоа завершит карьеру этим летом. Инсайдер Фабрицио Романо сообщил, что 40-летний голкипер отправится на ЧМ-2026 в составе сборной Мексики. ...

10:00, 25 Апр DJI представил дроны Lito 1 и Lito X1 с записью 4K-видео для начинающих пользователей Компания DJI представила линейку дронов Lito, специально разработанных для начинающих пользователей. Модели различаются между собой камерами. Дроны п...

16:00, 14 Май Российский режиссёр Кантемир Балагов представил в Каннах свой новый фильм "Варенье из бабочек" с Моникой Беллуччи 34-летний российский режиссёр Кантемир Балагов, который покинул Россию, не приняв СВО, представил свой новый фильм "Варенье из бабочек" на 79-м Каннс...

22:00, 29 Апр «Готов ответить на твои вопросы при личной встрече». Плющенко обратился к сыну после обвинений в свой адрес Двукратный олимпийский чемпион по фигурному катанию Евгений Плющенко заявил в социальных сетях, что не намерен выяснять отношения с сыном Егором публ...

10:00, 19 Апр Honor рекламирует свой новый смартфон Honor 600 Pro, похожий на iPhone 17 Pro, прямо возле магазина Apple Презентация ожидается через несколько днейКомпания Honor выполнила маркетинговый ход, установив автомобиль с рекламой Honor 600 Pro прямо перед магаз...

16:00, 26 Апр "Дуров — наш, и крестился по-русски, за народ свой стоял". Павел Дуров представил новый трек в жанре военного марша Павел Дуров представил новый трек, созданный с помощью искусственного интеллекта. В композиции "Эх, ВПНы верные" поётся о ВПН и блокировках соцсетей,...