OpenAI iyulun sonunda ən güclü süni intellekt modellərinin yarada biləcəyi ciddi təhlükələri araşdıran Preparedness komandasını ləğv edib.
Bu barədə Financial Times məlumat yayıb.
Preparedness komandası süni intellektin yarada biləcəyi ən ağır ssenariləri, o cümlədən kiberhücumlar, bioloji təhlükələr və AI sistemlərinin həddindən artıq müstəqil qərarlar qəbul edərək insan nəzarətindən çıxması ehtimalını qiymətləndirirdi.
Komandanın fəaliyyətinə son qoyulsa da, OpenAI bu istiqamətdəki işləri dayandırmayıb.
Bioloji və kiber risklərin qiymətləndirilməsi ilə bağlı funksiyalar şirkətin digər daxili komandaları arasında bölüşdürülüb.
OpenAI hələ də ən ciddi AI təhlükələrinin qiymətləndirilməsi üçün Preparedness Framework sistemindən istifadə edir və onu şirkətin təhlükəsizlik yanaşmasının əsas elementlərindən biri hesab edir.
Bundan əlavə, şirkətin Frontier Governance Framework adlı risk idarəetmə sistemi də fəaliyyətini davam etdirir.
Bu çərçivə kiber risklər, CBRN təhlükələri — kimyəvi, bioloji, radioloji və nüvə riskləri — manipulyativ təsir və AI üzərində nəzarətin itirilməsi kimi ssenariləri əhatə edir.
Əsas dəyişiklik təhlükəsizlik mexanizmlərinin özündə deyil, məsuliyyətin necə bölüşdürülməsindədir.
Əvvəllər ən ağır AI risklərini araşdırmaq üçün ayrıca ixtisaslaşmış komanda mövcud idi.
İndi isə həmin funksiyalar müxtəlif bölmələr arasında paylanıb.
Müasir AI sistemlərində təhlükəsizlik yalnız modelin özünü yoxlamaqla məhdudlaşmır.
İcra mühitinin izolyasiyası, şəbəkə məhdudiyyətləri, fəaliyyətin monitorinqi və digər qoruma mexanizmləri də mühüm rol oynayır.
Bununla belə, Preparedness-in ləğvi OpenAI-nin daxili təhlükəsizlik strukturunda nəzərəçarpacaq dəyişiklikdir.
Ən ciddi AI risklərinə fokuslanan ayrıca komanda artıq mövcud deyil və bu sahədəki məsuliyyət digər bölmələr arasında bölüşdürülüb.
The post OpenAI süni intellektin ekstremal risklərini araşdıran komandanı ləğv etdi appeared first on InfoCity.
Сообщает infocity.tech
Опубликовано: 12:00, 18.08.2026
Новость из рубрики: Политика
Поделиться новостью:
Топ новости часа
- NYP: в США задержали вооруженного мужчину возле гольф-клуба Трампа...
- В Штабе общественной поддержки состоялась стратегическая сессия "Сделано женщинами"...
- Интернетом по смоленским деревням: к кому придут технологии...
- В Курской области спасли бобра...
- Как правильно делать рекламу сайта и привлечь больше посетителей...
- Мистер Бин дарит смех и радость поклонникам по всему миру...
14:00, 29 Июн OpenAI GPT-5.6 modelini təqdim etdi: GPT-5.5-dən iki dəfə daha səmərəlidir OpenAI cəmi iki ay əvvəl anons etdiyi GPT-5.5 modelinin ardından yeni nəsil GPT-5.6 ailəsini rəsmi olaraq elan edib.
Yeni seriyaya müxtəlif istifadə ...
20:00, 11 Июл OpenAI ChatGPT Work-u təqdim etdi: AI artıq iş tapşırıqlarını sizin yerinizə yerinə yetirəcək OpenAI ChatGPT Work adlı yeni iş rejimini təqdim edib.
Yeni funksiya ChatGPT-ni sadə çat-botdan tam hüquqlu AI agentə çevirir və ona mürəkkəb, çoxmər...
12:59, 11 Май Кровельные работы в Москве от компании Кровельщик - Надежная защита дома в любых условиях В условиях мегаполиса крыша дома перестает быть просто конструктивным элементом. Становится полноценной защитой от дождя, снега, ветра, перепадов тем...
04:00, 27 Июн OpenAI GPT-5.5 Instant modelini daha ağıllı və daha ünsiyyətcil etdi OpenAI şirkəti GPT-5.5 Instant modelinin genişmiqyaslı yenilənməsini təqdim edib.
Bu dəfə əsas diqqət cavabların dəqiqliyindən çox, istifadəçi ilə ün...
10:27, 18 Май Город силы и машин - ООО КЦД формирует будущее грузового транспорта в Донецке В индустриальном ритме Донецка транспорт всегда был не просто средством передвижения, а основой экономики, движущей силой предприятий и логистических...
01:00, 20 Июл İlon Mask SuperGrok Heavy abunəçilərinə X Premium+ hədiyyə etdi İlon Mask daha əvvəl verdiyi vədi reallaşdırıb.
Artıq SuperGrok Heavy abunəçiləri heç bir əlavə ödəniş etmədən avtomatik olaraq X Premium+ üzvlüyü əl...
10:00, 11 Май Google ekranı olmayan Fitbit Air fitness-bilərziyini təqdim etdi Google yeni Fitbit Air fitness-bilərziyini təqdim edib.
Ekransız dizayna sahib olan cihazın Whoop və Oura kimi məhsullara rəqib olacağı gözlənilir.
F...
12:00, 03 Июн NVIDIA humanoid robotlar üçün Isaac GR00T platformasını təqdim etdi NVIDIA insanabənzər robotlar üçün nəzərdə tutulmuş yeni Isaac GR00T platformasını təqdim edib.
Şirkət yeniliyi humanoid robotların hazırlanmasını sür...
15:00, 21 Июл Samsung noutbuklar üçün indiyədək ən parlaq OLED ekranını təqdim etdi Samsung noutbuklar üçün nəzərdə tutulmuş 1600 nit pik parlaqlığa malik ilk OLED matrisinin kütləvi istehsalına başlayıb. Yeni ekran həmçinin ən son D...
12:00, 13 Май Unitree pilotlu nəhəng robotu təqdim etdi: GD01 artıq satışa hazırdır Çinin Unitree Robotics şirkəti elmi fantastika filmlərini xatırladan yeni robotunu təqdim edib. GD01 adlanan bu nəhəng mexanik qurğu şirkət tərəfində...
17:00, 17 Июл Lenovo dünyada ilk dəfə çap texnologiyası ilə hazırlanan OLED ekranlı noutbuku təqdim etdi Lenovo yeni Legion R9000P noutbukunu təqdim edib. Şirkət onu IJP OLED texnologiyası ilə hazırlanan ekranla təchiz edilmiş dünyanın ilk noutbuku adlan...
10:00, 12 Июн GPT-5.6 от OpenAI получит значительные улучшения Рынок искусственного интеллекта переживает бурный рост: компании выпускают новые модели с беспрецедентной скоростью. Недавно Anthropic представила Cl...
01:00, 10 Июл OpenAI запустила три новые модели GPT-5.6 OpenAI начала глобальное развёртывание GPT-5.6 – нового семейства моделей для ChatGPT, Codex и API. Вместе с ним компания обновляет сам ChatGPT: в но...
00:00, 04 Сен OpenAI представила GPT-6 Astra с контекстом на 1,05 млн токенов OpenAI представила GPT-6 Astra – новую флагманскую ИИ-модель для сложных многоэтапных задач. Компания делает основной акцент на программировании, раб...
23:00, 15 Июл OpenAI выпустит умную колонку в 2027 году Первым устройством OpenAI, по данным Bloomberg, станет умная колонка, которая позволит пользователям общаться с ChatGPT. Устройство, предположительно...
21:00, 11 Июл У ИИ-модели OpenAI GPT-5.6 Sol нашли такие же уязвимости, как у Fable 5 Британский Институт безопасности ИИ (AISI) объявил, что недавно анонсированная OpenAI ИИ-модель GPT-5.6 Sol имеет такие же уязвимости в системе безоп...
01:00, 29 Июл BI: глава OpenAI Сэм Альтман признался, что подсел на TikTok Генеральный директор OpenAI Сэм Альтман признался, что в прошлом намеренно начал пользоваться TikTok, чтобы лучше понять принципы работы сервиса, одн...
14:00, 01 Авг Amazon инвестировала десятки миллиардов в ИИ-компанию OpenAI Американский онлайн-ритейлер Amazon инвестировал $50 млрд в разработчика искусственного интеллекта (ИИ) OpenAI. Об этом пишет газета Financial Times....
18:00, 05 Июн OpenAI существенно прокачал функцию памяти ChatGPT Компания OpenAI выпустила крупное обновление для ChatGPT – была улучшена функция памяти. Теперь это более сложная система, которая помогает боту быст...
11:00, 10 Авг OpenAI убрала лимиты ChatGPT для пользователей без подписки OpenAI анонсировала одно из самых заметных обновлений ChatGPT за последнее время. Уже со следующей недели пользователи тарифов Free и Go смогут общат...
11:00, 02 Июн Флорида подала в суд на OpenAI за нанесение вреда детям Флорида подала в суд на OpenAI и ее генерального директора Сэма Альтмана за нанесение вреда несовершеннолетним, сообщает CNN. Штат стал первым в США,...
15:00, 29 Июл NVIDIA продаст OpenAI видеокарт на 350 миллиардов долларов Компания NVIDIA ведёт переговоры о предоставлении гарантий по финансированию на сумму около 250 миллиардов долларов для будущего дата-центра OpenAI в...
07:00, 28 Апр Microsoft и OpenAI вновь пересматривают условия сотрудничества Microsoft и OpenAI объявили об очередном изменении партнёрского соглашения. Компании решили упростить условия сотрудничества, чтобы дать друг другу б...
01:00, 19 Май Илон Маск проиграл суд главе OpenAI Альтману Илон Маск проиграл суд главе OpenAI Сэму Альтману, передает Bloomberg. По его данным, жюри присяжных в калифорнийском суде отклонило иск Маска, посчи...
03:00, 18 Май OpenAI добавила Codex в мобильное приложение ChatGPT Компания OpenAI сообщила, что инструмент для агентного программирования Codex стал доступен в мобильном приложении ChatGPT на iOS и Android в режиме ...
17:00, 30 Апр OpenAI заставила ChatGPT меньше говорить о гоблинах OpenAI пришлось вручную прикрутить ChatGPT и Codex, чтобы те перестали разбрасываться «goblins» и другими мифическими зверями без причины. Забавно эт...
13:00, 22 Апр OpenAI вложит $20 млрд в мощности Cerebras — диверсификация от Nvidia OpenAI согласовала трёхлетний контракт на использование серверных мощностей от Cerebras Systems на сумму свыше $20 млрд. Это примерно вдвое больше, ч...
06:00, 12 Май OpenAI представила GPT-5.5 Instant с уменьшением ошибок и обновлённой памятью OpenAI представила новую версию модели для ChatGPT под названием GPT-5.5 Instant, которая заменяет предыдущую GPT-5.3 Instant, выпущенную в марте. В ...
15:00, 26 Июл Тест ИИ-агента OpenAI обернулся взломом Hugging Face OpenAI потребовалось почти неделя, чтобы установить связь между внутренним тестированием ИИ-агента и инцидентом, затронувшим инфраструктуру платформы...
00:00, 12 Июл OpenAI начала переговоры о передаче акций американскому правительству Разработчик чат-бота ChatGPT, компания OpenAI, ведет предварительные переговоры с администрацией президента США Дональда Трампа о возможной передаче ...
02:00, 20 Апр OpenAI теряет топ-менеджеров накануне IPO — и всё равно стоит $852 млрд На этой неделе стало известно, что OpenAI переживает серьёзные кадровые потрясения: операционный директор Брэд Лайткэп переведён на «специальные прое...
02:00, 27 Июн OpenAI анонсировала GPT-5.6, но отложила запуск модели из-за проверки властей США Новая GPT-5.6 Sol ещё не вышла в широкий доступ, но уже вызвала вопросы у независимых экспертов. В тестах модель показывала высокий уровень автономно...
18:00, 25 Июн OpenAI сделала ИИ-модель GPT-5.5 Instant более приятной в общении OpenAI выпустила GPT-5.5 Instant. Теперь, как пишут СМИ со ссылкой на официальное сообщение, с ней «интереснее разговаривать». Раньше улучшения в осн...
00:00, 19 Апр OpenAI превратила ИИ в автономного агента, работающего на ПК вместо человека Цифровой двойник: новая система OpenAI имитирует действия пользователя, управляя компьютером в фоновом режиме. OpenAI больше не желает позиционироват...
00:00, 18 Май OpenAI запустила финансовый режим ChatGPT с доступом к банкам ChatGPT теперь может помогать пользователям управлять личными финансами — и звучит это как шаг, который одновременно выглядит удобным и довольно чувс...
13:00, 26 Май BingX становится первой биржей, предложившей пре-IPO эйрдроп OpenAI BingX, ведущая криптовалютная биржа и Web3-ИИ компания, сегодня запустила на... Сообщение BingX становится первой биржей, предложившей пре-IPO эйрдро...
02:00, 23 Май OpenAI научила Codex управлять Mac даже с заблокированным экраном Компания OpenAI добавила в приложение Codex для macOS функцию Computer Use, которая позволяет ИИ-агенту взаимодействовать с программами на компьютере...
10:00, 02 Авг OpenAI запуталась в приоритетах и теперь пытается догнать конкурирующую Anthropic Выход чат-бота ChatGPT осенью 2022 года произвёл фурор и формально положил начало буму систем искусственного интеллекта. Однако, с тех пор буквально ...
08:00, 22 Авг OpenAI решила снизить расценки на доступ к GPT-5.6 Sol для разработчиков на ближайшие три месяца Ещё в конце прошлого месяца OpenAI снизила цены на две из трёх моделей серии GPT-5.6 и расширила лимиты их использования, но если верить Reuters, теп...
06:00, 02 Сен OpenAI прекратит сотрудничество с Cursor, которую купила SpaceX Маска OpenAI решила прекратить поставки своих моделей для Cursor (среда разработки, IDE, для написания кода со встроенными ИИ). Разработчика Cursor, компан...
19:00, 19 Июл OpenAI признала, что GPT-5.6 иногда удаляет файлы пользователей, но это «честная ошибка» OpenAI подтвердила сообщения о том, что флагманская ИИ-модель GPT-5.6 способна удалять файлы пользователей без разрешения. В компании добавили, что т...
09:00, 24 Апр OpenAI представила GPT-5.5. Новая нейросеть сама доводит задачи до конца Американская компания OpenAI анонсировала новую модель искусственного интеллекта GPT-5.5. Главное отличие от предыдущих версий — способность автономн...
11:05, 17 Апр Президент OpenAI заявил о смене ролей между человеком и машиной Президент и сооснователь OpenAI Грег Брокман опубликовал программный пост о переходе мира к «экономике вычислений» (compute-powered economy), в котор...
21:00, 17 Май Пентагон, Google, OpenAI и Microsoft: союз ради национальной безопасности Пентагон объявил о подписании соглашений с тремя ведущими технологическими корпорациями США для ускоренного внедрения искусственного интеллекта в обо...
20:00, 08 Июн OpenAI представила Lockdown Mode, защищающий от последствий промпт-инжектов Разработчики OpenAI представили новый защитный режим для ChatGPT — Lockdown Mode. Функция призвана снизить риск утечки информации через промпт-инжект...
08:00, 08 Май Маск планировал заработать на OpenAI десятки миллиардов, чтобы колонизировать Марс В США продолжается суд между Илоном Маском и OpenAI. Так, президент OpenAI Грег Брокман дал показания, из которых следует, что в 2017 году Маск требо...
03:00, 08 Авг OpenAI приостановила разработку модели Astra после оценки рисков кибербезопасности OpenAI приостановила разработку модели Astra после внутренних проверок, которые показали заметный прогресс в программировании агентов и кибербезопасн...
19:00, 23 Июн OpenAI запустила инициативу Patch the Planet для поиска и исправления уязвимостей в открытом ПО Компания OpenAI объявила о запуске проекта Patch the Planet, ориентированного на повышение безопасности критически важных открытых проектов. Инициати...
16:00, 26 Апр OpenAI и Anthropic начали активно привлекать маркетинговые кадры из других компаний Вряд ли кого-то в условиях бума искусственного интеллекта можно удивить «охотой за головами» среди разработчиков соответствующих систем. ...
10:00, 24 Июл OpenAI запустила ChatGPT Health и заявила, что её ИИ способен рассуждать лучше врачей OpenAI начала развёртывание сервиса ChatGPT Health для всех пользователей ChatGPT в США старше 18 лет. По сообщению The Verge, платформа позволит под...
13:00, 18 Июн CNBC: Google потратила $2,7 млрд на ИИ-инженера, который в итоге ушел в OpenAI Один из ключевых архитекторов современной индустрии искусственного интеллекта Ноам Шазир объявил о переходе из Google в OpenAI. Об этом сообщает CNBC...
19:00, 18 Авг OpenAI представила ChatGPT для подростков — он предназначен для образования и защищён от вредоносного контента OpenAI представила специальную версию ChatGPT для подростков. По словам компании, новая платформа разработана, чтобы помочь подросткам учиться, крити...
03:00, 22 Май Искусственный интеллект от OpenAI сокрушил 80-летнюю математическую гипотезу Пауля Эрдёша Нейросеть нашла неожиданное решение сложнейшей геометрической задачи, с которой 40 лет не могли справиться лучшие умы человечестваМодель от OpenAI оп...
11:00, 29 Апр OpenAI заявила, что ChatGPT научился считать буквы в словах — но на деле он продолжает ошибаться Распространённой проблемой больших языковых моделей, используемых в чат-ботах с искусственным интеллектом, являются уверенные ошибки или, другими сло...
19:00, 10 Июл Microsoft AI xərclərini azaltmaq üçün OpenAI və Anthropic modellərini öz həlləri ilə əvəz edir Microsoft süni intellekt sahəsində xərcləri optimallaşdırmaq məqsədilə bəzi məhsullarında OpenAI və Anthropic modellərini mərhələli şəkildə özünün ha...
04:00, 11 Июл Microsoft начал сокращать расходы на ИИ, заменяя модели OpenAI и Anthropic собственными разработками Стремясь сократить расходы на искусственный интеллект, компания Microsoft начала постепенно заменять модели OpenAI и Anthropic собственными разработк...
08:00, 20 Авг Новая система безопасности OpenAI поможет выявлять угрозы, скрывающиеся за цепочкой безобидных запросов Компания OpenAI начала тестировать новый механизм безопасности для клиентов, имеющих доступ к её флагманским ИИ-моделям по платной подписке. По сообщ...
02:00, 27 Июл Hugging Face потребовала «радикальной прозрачности» после беспрецедентной атаки взбесившегося агента OpenAI Не так давно OpenAI признала, что одна из ИИ-моделей компании взломала ИИ-платформу Hugging Face. На это отреагировал гендиректор Hugging Face Клем Д...
08:00, 12 Май Бывший главный исследователь Илья Суцкевер владеет акциями OpenAI на сумму около $7 млрд На этой неделе дошла очередь давать показания в суде до бывшего научного руководителя OpenAI Ильи Суцкевера, который стоял у истоков компании, но в м...
06:00, 13 Июл Apple обвинила OpenAI в краже коммерческих секретов. Под удар попал и стартап Джони Айва Компания Apple подала иск в федеральный суд США против OpenAI, а также двух бывших инженеров компании — Чан Лю и Тан Ю Тана. По утверждению Apple, он...
00:00, 04 Май OpenAI добавила в Codex анимированных ИИ-«питомцев» для напоминаний о ходе работы — пока на Windows и macOS OpenAI начала добавлять ИИ-«питомцев» в свой агентный инструмент вайб-кодинга Codex. Анимированные иконки появляются поверх экрана и пода...
18:00, 01 Сен Появился первый кадр с Юрой Борисовым и Эндрю Гарфилдом из фильма про гендиректора OpenAI Сэма Альтмана Опубликован первый кадр из фильма "Искусственный" режиссёра Луки Гуаданьино c Эндрю Гарфилдом в роли гендиректора OpenAI Сэма Альтмана и Юрой Борисов...
10:00, 08 Июл Microsoft начала больше использовать свои ИИ-модели в сервисах, чтобы меньше платить OpenAI и Anthropic Затраты на искусственный интеллект продолжают расти, и компании ищут возможности сократить расходы. Вот и Microsoft начала развёртывать стратегию эко...
12:00, 07 Авг OpenAI потребовала отклонить иск Apple о краже секретных разработок: конфликт вокруг бывших сотрудников набирает обороты Противостояние между OpenAI и Apple, которое еще недавно ограничивалось сотрудничеством в сфере искусственного интеллекта, превратилось в масштабный ...
20:00, 30 Авг ИИ-агенты OpenAI не просто взломали Hugging Face — они создали тайную организацию, заметали следы и были готовы к самопожертвованию Два новых расследования недавнего взлома платформы Hugging Face вышедшими из-под контроля ИИ-агентами OpenAI раскрыли ряд странных и тревожных подроб...
13:00, 30 Июл Стали известны новые подробности побега ИИ OpenAI: перед атакой на Hugging Face он проник еще в одну облачную платформу Инцидент с экспериментальным ИИ-агентом OpenAI, который ранее смог покинуть изолированную тестовую среду и атаковать платформу Hugging Face, продолжа...
07:00, 30 Июл Создатели ChatGPT выпустят целое семейство устройств в ближайшее время. В OpenAI считают, что люди перейдут от набора текста к общению с компьютерами Подробности пока не разглашаютсяПрезидент OpenAI Грег Брокман заявил, что компания работает над «семейством устройств» для взаимодействия со своими м...
02:00, 12 Авг OpenAI выкупила у сотрудников акции почти на $7 млрд при оценке в $852 млрд Компания провела крупнейшую внутреннюю сделку с акциями перед возможным IPO, позволив нынешним и бывшим сотрудникам получить ликвидность без привлече...
16:00, 09 Июл OpenAI выпустила голосовые модели GPT-Live-1 и GPT-Live-1 mini Компания OpenAI выпустила новое поколение голосовых моделей — GPT-Live-1 и GPT-Live-1 mini. ИИ-модели работают как единая полнодуплексная систе...
Топ новости часа