OpenAI пришлось вручную прикрутить ChatGPT и Codex, чтобы те перестали разбрасываться «goblins» и другими мифическими зверями без причины.
Забавно это ровно до момента, пока не вспоминаешь, что речь идет о флагманской модели GPT-5.1, а не о чате после 3 банок энергетика.
Компания заметила, что в ответах выросло число упоминаний «goblins» и «gremlins» после запуска GPT-5.1 в ноябре.
OpenAI говорит, что после жалоб пользователей и сотрудников начала разбираться с этой словесной привычкой и даже отдельно попросила Codex не поминать гоблинов без необходимости.
В блоге компания признала, что один «little goblin» в ответе еще можно списать на странность с характером, но массовое размножение таких оговорок уже тянет на баг, а не на милую причуду.
Что именно увидели в ответах GPT-5.1 По данным OpenAI, упоминания «goblin» в ответах ChatGPT выросли на 175% с момента запуска GPT-5.1, а «gremlin» — на 52%.
Это еще не значит, что модель внезапно решила стать фэнтези-автором.
Но в больших языковых моделях даже странная словесная привычка масштабируется быстро, потому что система повторяет то, что статистически «работало» на тренировке и в донастройке.
Упоминания других существ тоже всплывали:
«raccoons», «trolls», «ogres», «pigeons».
OpenAI пришлось прямо прописать Codex, что такие слова допустимы только если они «абсолютно и однозначно» относятся к запросу.
Проблема здесь не в гоблинах как таковых, а в старой боли индустрии:
модель может закреплять случайные шаблоны, если они хоть немного подкрепляются в данных или обратной связи.
Почему это неприятно для OpenAI Для OpenAI это не катастрофа, а очень показательный сбой.
Компания годами продает идею «умной» и управляемой системы, а тут ей приходится следить, чтобы чат-бот не впадал в сказочную болтливость.
У конкурентов похожие промахи тоже случались, только обычно они выглядят менее комично и более токсично:
от повторяющихся фраз до внезапной фамильярности, которая быстро убивает доверие к продукту.
Мы уже видели, как мелкие языковые артефакты превращаются в репутационную проблему, если их не ловить вовремя.
Так что нынешняя история про гоблинов не про фольклор, а про гигиену модели.
И да, когда вашему корпоративному ассистенту приходится запрещать упоминать голубей, это не совсем тот уровень магии, за который обычно платят подписку.
Сообщает itzine.ru
Опубликовано: 17:00, 30.04.2026
Новость из рубрики: Политика
Поделиться новостью:
Топ новости часа
Топ новости часа- NYP: в США задержали вооруженного мужчину возле гольф-клуба Трампа...
- В Штабе общественной поддержки состоялась стратегическая сессия "Сделано женщинами"...
- Интернетом по смоленским деревням: к кому придут технологии...
- Мистер Бин дарит смех и радость поклонникам по всему миру...
- В Курской области спасли бобра...
- Как правильно делать рекламу сайта и привлечь больше посетителей...
11:00, 29 Апр OpenAI заявила, что ChatGPT научился считать буквы в словах — но на деле он продолжает ошибаться Распространённой проблемой больших языковых моделей, используемых в чат-ботах с искусственным интеллектом, являются уверенные ошибки или, другими сло...
21:00, 19 Апр ИИ-модель Mythos заставила власти США пойти на контакт с «угрожающей национальной безопасности» Anthropic Глава Anthropic встретится с руководителем аппарата Белого дома на фоне опасений, связанных с новой ИИ-моделью Mythos, способной выявлять уязвимости ...
20:31, 19 Апр Укладка спортивного линолеума - Основа надежного и долговечного покрытия в спортивных залах Современные спортивные пространства требуют особого подхода к выбору и монтажу напольных покрытий. От качества основания и правильности укладки напря...
09:17, 16 Апр Компани недоволен карточкой, из-за которой пропустит первый матч с «ПСЖ»: «Стараюсь сохранять спокойствие. Но нормально говорить, когда твой игрок лежит на газоне» Главный тренер
«Баварии» Венсан Компани выразил недовольство из-за полученной желтой карточки в ответном матче 1/4 финала Лиги чемпионов против «Реал...
15:00, 24 Апр ChatGPT научился работать без инструкций Новый уровень самостоятельности:
OpenAI выпустила GPT-5.5 — умную модель для научных прорывов.
Компания OpenAI представила свою новую языковую модель...
04:00, 01 Май До «Весеннего документооборота – 2026» в Ярославле – меньше месяца 18-22 мая 2026 года состоится традиционная встреча друзей и партнеров ЭОС - конференция «Весенний документооборот».
По традиции последних лет, 23-я п...
10:01, 29 Апр Меньше людей — больше технологий: почему HoReCa в ДФО ускоряет цифровизацию Почему автоматизация перестает быть выбором и становится необходимостью для ресторанов и отелей Дальнего Востока...
10:00, 01 Май Эксперты Freedom Holding Сorp.: ChatGPT – это инструмент аналитика, а не его замена Финансовые аналитики готовят отчеты и прогнозы по публичным эмитентам и целым секторам для клиентов Freedom Broker, а также выступают в СМИ как предс...
01:00, 23 Апр «Реал» обвинили в использовании ChatGPT для назначения пищевых добавок футболистам Ициар Гонсалес де Арриба, ранее занимавшая должность физиотерапевта и нутрициолога в мадридском «Реале», сделала резонансное заявление в социальных с...
11:00, 22 Апр Пользователи по всему миру жалуются на масштабные сбои в работе ChatGPT 20 апреля 2026 года пользователи ChatGPT по всему миру столкнулись с серьезными сбоями в работе сервиса. По данным портала Downdetector, который отсл...
23:00, 25 Апр На Т1 Форуме вывели формулу эффективности ИТ с точки зрения бизнеса: меньше тратить, больше зарабатывать Бизнес больше не готов к компромиссам: компании требуют от цифровых решений производительности, устойчивости и безопасности, причем все три фактора р...
01:00, 29 Апр Денег все меньше. Россияне почти перестали заказывать из-за рубежа дорогую технику и перешли на ширпотреб В России упали расходы граждан на технику, заказываемую онлайн за рубежом. Средний чек рухнул на 18%, а суммарные траты – на 10%. Но выросли объемы з...
10:00, 26 Апр Пока все летят в Сочи, другие платят вдвое меньше: скрытые морские курорты России Лето 2026 года обещает стать временем больших открытий внутри страны. Пока границы остаются переменчивой величиной, российские побережья превращаются...
07:00, 28 Апр Microsoft и OpenAI вновь пересматривают условия сотрудничества Microsoft и OpenAI объявили об очередном изменении партнёрского соглашения. Компании решили упростить условия сотрудничества, чтобы дать друг другу б...
13:00, 22 Апр OpenAI вложит $20 млрд в мощности Cerebras — диверсификация от Nvidia OpenAI согласовала трёхлетний контракт на использование серверных мощностей от Cerebras Systems на сумму свыше $20 млрд. Это примерно вдвое больше, ч...
02:00, 20 Апр OpenAI теряет топ-менеджеров накануне IPO — и всё равно стоит $852 млрд На этой неделе стало известно, что OpenAI переживает серьёзные кадровые потрясения: операционный директор Брэд Лайткэп переведён на «специальные прое...
00:00, 19 Апр OpenAI превратила ИИ в автономного агента, работающего на ПК вместо человека Цифровой двойник: новая система OpenAI имитирует действия пользователя, управляя компьютером в фоновом режиме. OpenAI больше не желает позиционироват...
11:05, 17 Апр Президент OpenAI заявил о смене ролей между человеком и машиной Президент и сооснователь OpenAI Грег Брокман опубликовал программный пост о переходе мира к «экономике вычислений» (compute-powered economy), в котор...
09:00, 24 Апр OpenAI представила GPT-5.5. Новая нейросеть сама доводит задачи до конца Американская компания OpenAI анонсировала новую модель искусственного интеллекта GPT-5.5. Главное отличие от предыдущих версий — способность автономн...
16:00, 26 Апр OpenAI и Anthropic начали активно привлекать маркетинговые кадры из других компаний Вряд ли кого-то в условиях бума искусственного интеллекта можно удивить «охотой за головами» среди разработчиков соответствующих систем. ...