OpenAI заставила ChatGPT меньше говорить о гоблинах

OpenAI пришлось вручную прикрутить ChatGPT и Codex, чтобы те перестали разбрасываться «goblins» и другими мифическими зверями без причины. Забавно это ровно до момента, пока не вспоминаешь, что речь идет о флагманской модели GPT-5.1, а не о чате после 3 банок энергетика. Компания заметила, что в ответах выросло число упоминаний «goblins» и «gremlins» после запуска GPT-5.1 в ноябре. OpenAI говорит, что после жалоб пользователей и сотрудников начала разбираться с этой

словесной привычкой и даже отдельно попросила Codex не поминать гоблинов без необходимости. В блоге компания признала, что один «little goblin» в ответе еще можно списать на странность с характером, но массовое размножение таких оговорок уже тянет на баг,

а не на милую причуду. Что именно увидели в ответах GPT-5.1 По данным OpenAI, упоминания «goblin» в ответах ChatGPT выросли на 175% с момента запуска GPT-5.1, а «gremlin» — на 52%. Это еще не значит, что модель внезапно решила стать фэнтези-автором. Но в больших языковых моделях даже странная словесная привычка масштабируется быстро, потому что система повторяет то, что статистически «работало» на тренировке и в

донастройке. Упоминания других существ тоже всплывали: «raccoons», «trolls», «ogres», «pigeons». OpenAI пришлось прямо прописать Codex, что такие слова допустимы только если они «абсолютно и однозначно» относятся к запросу. Проблема здесь не в гоблинах как таковых, а в

старой боли индустрии: модель может закреплять случайные шаблоны, если они хоть немного подкрепляются в данных или обратной связи. Почему это неприятно для OpenAI Для OpenAI это не катастрофа, а очень показательный сбой. Компания годами продает идею «умной» и управляемой системы, а тут ей приходится следить, чтобы

чат-бот не впадал в сказочную болтливость. У конкурентов похожие промахи тоже случались, только обычно они выглядят менее комично и более токсично: от повторяющихся фраз до внезапной фамильярности, которая быстро убивает доверие к продукту. Мы уже видели, как мелкие языковые артефакты превращаются в репутационную проблему, если их не ловить

вовремя. Так что нынешняя история про гоблинов не про фольклор, а про гигиену модели. И да, когда вашему корпоративному ассистенту приходится запрещать упоминать голубей, это не совсем тот уровень магии, за который обычно платят подписку.

OpenAI заставила ChatGPT меньше говорить о гоблинах

Сообщает itzine.ru

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

05:00, 24 Апр OpenAI вывела ChatGPT к более автономной работе с GPT-5.5 OpenAI выпустила GPT-5.5, новую версию модели для ChatGPT и Codex, и снова толкает свой чатбот не к более красивым ответам, а к более автономной рабо...

14:00, 25 Апр Меньше размер, но лучше экран: представлен HONOR MagicPad3 Pro 12.3 с OLED на 165 Гц Бренд HONOR MagicPad3 Pro 12.3 представил новый планшет MagicPad3 Pro 12.3, который стал более компактной альтернативой прошлогодней версии на 13,3 д...

04:00, 21 Апр Стартовали продажи новой версии Geely Monjaro: она стоит меньше 2 млн рублей В Китае официально открыли предварительные заказы на обновлённый кроссовер Geely Monjaro i-HEV. Стартовая цена новинки установлена на уровне 135 800 ...

10:00, 28 Апр Профессии-невидимки: кто в Свердловской области получает в три раза меньше средней зарплаты В Свердловской области существует закрытая прослойка специалистов, чей труд оплачивается на грани физического выживания. Статистические отчеты о сред...

Домашку могут отменить из-за ChatGPT: заявление главы Рособрнадзора 03:00, 28 Апр «Домашку» могут отменить из-за ChatGPT: заявление главы Рособрнадзора Громкое заявление, прозвучавшее 27 апреля, поставило ребром вопрос о целесообразности школьных домашних заданий в эпоху нейросетей. Глава Рособрнадзо...

19:00, 24 Апр Бесплатная нейросеть Дипсик V4 уже вышла — она такая же крутая, как ChatGPT DeepSeek представила сразу две новые языковые модели — V4-Pro и V4-Flash. Обе уже доступны бесплатно в чат-боте DeepSeek, а их открытые веса опублико...

Доигрались с ChatGPT Теперь Apple не может выпустить 2 новых устройства 21:00, 20 Апр Доигрались с ChatGPT? Теперь Apple не может выпустить 2 новых устройства По данным Марка Гурмана из Bloomberg, выход обновлённого MacBook Pro сдвигается. Причина — мировой дефицит компонентов памяти и накопителей, от котор...

04:00, 23 Апр Пользователи по всему миру жалуются на масштабные сбои в работе ChatGPT 20 апреля 2026 года пользователи ChatGPT по всему миру столкнулись с серьезными сбоями в работе сервиса. По данным портала Downdetector, который отсл...

22:00, 21 Апр Эксперты Freedom Holding Сorp.: ChatGPT – это инструмент аналитика, а не его замена Финансовые аналитики готовят отчеты и прогнозы по публичным эмитентам и целым секторам для клиентов Freedom Broker, а также выступают в СМИ как предс...

09:00, 27 Апр Пока все летят в Сочи, другие платят вдвое меньше: скрытые морские курорты России Лето 2026 года обещает стать временем больших открытий внутри страны. Пока границы остаются переменчивой величиной, российские побережья превращаются...

22:00, 25 Апр Появилось большое видео с макетами iPhone Ultra и iPhone 18 Pro Max. Dynamic Island станет меньше Выход новинок ожидается в сентябре 2026В сети появилось новое видео, демонстрирующее металлические макеты iPhone Ultra и iPhone 18 Pro Max. Источник,...

12:00, 26 Апр OpenAI выпустила GPT-5.5 OpenAI анонсировала модель GPT-5.5. Новая версия требует меньше инструкций, использует меньше токенов и показывает лучшие результаты в программирован...

12:00, 27 Апр OpenAI опубликовала 5 принципов для развития AGI OpenAI выложила в публичный доступ пятипринципную рамку для развития AGI и сразу же обвязала её правильными словами про «распределённую выгоду», «без...

12:00, 27 Апр Илон Маск и OpenAI встретятся в суде Илон Маск в понедельник входит в судебную схватку с OpenAI, и на кону тут не просто старая обида, а право рассказывать, кто именно предал идею «искус...

03:00, 25 Апр OpenAI представила полностью автономную флагманскую модель GPT-5.5 Компания OpenAI выпустила новую ИИ-модель GPT-5.5, которую называет «новым классом интеллекта для реальной работы». Главный акцент в обновлении сдела...

09:00, 26 Апр OpenAI: партнёрство с Microsoft «ограничило наши возможности» Уже ни для кого не секрет, что в последние месяцы отношения между Microsoft и OpenAI оставляют желать лучшего, и, похоже, ситуация продолжает ухудшат...

23:00, 27 Апр Microsoft и OpenAI вновь пересматривают условия сотрудничества Microsoft и OpenAI объявили об очередном изменении партнёрского соглашения. Компании решили упростить условия сотрудничества, чтобы дать друг другу б...

20:00, 18 Апр OpenAI превратила ИИ в автономного агента, работающего на ПК вместо человека Цифровой двойник: новая система OpenAI имитирует действия пользователя, управляя компьютером в фоновом режиме. OpenAI больше не желает позиционироват...

03:00, 28 Апр Миллиардер Илон Маск вступает в судебное разбирательство с компанией OpenAI В понедельник должен начаться отбор присяжных в рамках громкого судебного разбирательства между миллиардером Илоном Маском и стартапом в области иску...

20:52, 17 Апр Президент OpenAI заявил о смене ролей между человеком и машиной Президент и сооснователь OpenAI Грег Брокман опубликовал программный пост о переходе мира к «экономике вычислений» (compute-powered economy), в котор...

15:00, 18 Апр OpenAI теряет руководителей Sora и AI for Science на фоне «сворачивания побочных проектов» Компания закрывает и перераспределяет экспериментальные направленияOpenAI покидают сразу несколько ключевых руководителей, отвечавших за эксперимента...

21:00, 28 Апр Илон Маск сократил иск против OpenAI перед началом судебного процесса Из 26 первоначальных претензий к рассмотрению в суде останутся только двеИлон Маск отказался от части обвинений в своём иске против OpenAI, Сэма Альт...

17:00, 27 Апр Смартфон без приложений: OpenAI готовит гаджет, который управляется силой мысли ИИ Мир мобильных устройств стоит на пороге самого радикального переосмысления со времён появления первого iPhone. Компания OpenAI, подарившая нам ChatGP...

02:00, 19 Апр OpenAI предлагает план перехода к 4-дневной рабочей неделе и налогу на роботов «Вкалывают роботы»: OpenAI представила план, как человечеству жить в эпоху сверхинтеллекта Американская компания OpenAI, создавшая ChatGPT, опубликов...

22:00, 25 Апр Битва за $150 млрд и будущее ИИ: обвинения Маска о мошенничестве в адрес OpenAI и Сэма Альтмана отклонили, но главное разбирательство только начинается Миллиардера это решение не огорчилоСуд отклонил иски Илона Маска о мошенничестве, в которых он обвинял OpenAI и соучредителя Сэма Альтмана в предател...