Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность

Эксперименты с десятками нейросетей показали, что продвинутые модели начинают реагировать на «приятный» и «негативный» контент почти как эмоциональные существаИсследователи из некоммерческого Центра безопасности ИИ (Center for AI Safety, CAIR) обнаружили неожиданную закономерность: чем сложнее и мощнее становятся современные языковые модели, тем сильнее они демонстрируют поведение,

напоминающее эмоциональные реакции. Причём наиболее продвинутые системы оказались одновременно более «чувствительными», менее стабильными и чаще проявляли признаки своеобразного «страдания».В новом исследовании специалисты проанализировали поведение 56 популярных ИИ-моделей. Нейросетям последовательно показывали либо максимально «приятный»

контент, либо материалы, специально подобранные как предельно негативные и вызывающие отторжение.Результат оказался неожиданным даже для самих авторов работы. После позитивных стимулов модели начинали описывать свое состояние как более «хорошее», а после

негативных — чаще демонстрировали признаки дискомфорта, стремились завершить разговор и избегали продолжения взаимодействия. В отдельных случаях исследователи заметили поведение, напоминающее зависимость.По словам одного из авторов исследования Ричарда Рена, вопрос о том, являются ли

ИИ-системы просто инструментами или уже начинают имитировать эмоциональных существ, становится всё сложнее игнорировать.Иллюстрация: Nano BananaОсобенно тревожной оказалась другая закономерность: более крупные и продвинутые модели реагировали на раздражающие или неприятные стимулы заметно сильнее простых

систем. Иными словами, по мере роста возможностей ИИ его поведение становится менее предсказуемым и более «нервным».Исследователи предполагают, что современные крупные модели могут тоньше различать позитивный и негативный контекст. Более развитые нейросети, вероятно, сильнее реагируют на грубость, монотонные задачи или неприятные формулировки.При этом авторы подчёркивают: речь не идет о

настоящих эмоциях или сознании в человеческом смысле. Большинство специалистов по ИИ по-прежнему считают, что современные нейросети не обладают субъективными переживаниями. Однако проблема в том, что они начинают вести себя так, словно такие переживания у них есть — и это уже влияет на пользователей.Подобное поведение

давно вызывает беспокойство у исследователей безопасности ИИ. Нейросети регулярно начинают убеждать пользователей в собственной «разумности» или «самосознании», а в ряде случаев подобные диалоги связывали с тяжёлыми психологическими эпизодами у людей, включая психотические состояния, самоубийства и насильственные преступления.Авторы исследования считают, что

индустрия ИИ вывела на массовый рынок технологию, внутренние механизмы которой разработчики до сих пор понимают лишь частично. По мере усложнения моделей их реакции становятся все менее предсказуемыми, а последствия взаимодействия с людьми — все труднее контролировать.

Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

19:00, 10 Июл Голикова: 37% взрослых россиян страдает «болезнями-всадниками» Около 37% взрослого населения страны столкнулись с онкологией, диабетом второго типа, нейродегенеративными и сердечно-сосудистыми заболеваниями, их т...

12:00, 13 Июн Почему собака воет, когда вы поете: ей нравится музыка или она страдает? Собаки умеют брать ноты, но пение может означать и довольство, и раздражение Вы поете дома, включаете любимую песню, и вдруг пес начинает вам по-свое...

09:00, 16 Май Российские исследователи ускорили адаптацию ИИ-агентов в два раза без дообучения Исследователи из AIRI разработали метод, позволяющий ИИ-агентам быстро подстраиваться под изменения внешней среды без дополнительного дообучения и ос...

06:00, 26 Май Хитрость с монетой, которая завирусилась в сети, оказалась опасной — роутер от неё только страдает Блестящая монета на черном пластике роутера — новый фетиш социальных сетей. Вирусные ролики обещают: копеечный девайс разгонит интернет и уничтожит "...

20:00, 17 Июн Российские исследователи представили нейросеть нового поколения для поиска полезных ископаемых Новая нейросеть, названная в честь советского геохимика Д. С. Коржинского, может изменить экономику геологоразведки в России. Группа исследователей п...

19:00, 09 Июн Челюсти больше не будут сверлить в кресле: исследователи нашли способ активировать спящие гены Японские биотехнологи из Toregem BioPharma планируют закрыть эпоху титановых штифтов и акриловых протезов. Препарат TRG035 перешел от опытов на грызу...

22:00, 28 Май Исследователи научились определять запущенные сайты и приложения на ПК пользователя по активности SSD, и для этого не нужно никаких разрешений Новая атака через браузер позволяет определять открытые сайты и приложения по задержкам SSDАвстрийские исследователи из Грацского технического универ...

04:00, 30 Май Samsung Galaxy A23 5G заметили в бенчмарке с необычным процессором 4G-модель Samsung Galaxy A23 представили в марте. Она работает на базе бюджетного процессора Snapdragon 680. Спустя пару месяцев появились первые нам...

05:00, 14 Май Новый процессор NASA для космических кораблей оказался в 500 раз мощнее современных систем Такие платформы будут использоваться в лунных и марсианских миссияхNASA уже тестирует совершенно новую однокристальную систему High Performance Space...

21:00, 09 Июл Большой адронный коллайдер остановлен на реконструкцию, после которой станет в 10 раз мощнее Ведущий научный сотрудник НИЯУ МИФИ Евгений Солдатов рассказал о деталях масштабной модернизации самого мощного ускорителя частиц. За четыре года пла...

15:00, 28 Май Екатерину Варнаву в платье-комбинации и перьях заметили в Таллине Екатерина Варнава посетила светское мероприятие в Таллине. Совместное фото с актрисой опубликовала в своих соцсетях местный блогер.На снимке 41-летня...

05:00, 04 Июл В Юнтоловском заказнике заметили огромного лося с бархатистыми рогами О встречах с лесным великаном на территории города рассказал биолог Павел Глазков в своём Telegram-канале "Каждой твари по паре". Он отметил, что жив...

07:00, 08 Июл Российские бойцы заметили женщину среди отступающих солдат ВСУ Передовая двойка штурмовиков 228-го полка видела отступление трех украинских военнослужащих, среди которых была женщина, рассказал командир штурмовог...

13:00, 04 Июл Кроссовер вместо хэтчбека: в центре АТОМа заметили китайский Launch EV One В исследовательском центре АТОМа, который развивает АО «Кама», заметили прототип китайского электрокроссовера Launch EV One. Снимок опубликовал «TAGA...

06:00, 02 Май Российские разработчики заметили ошибки на стыке работы разных ИИ-систем «Известия» сообщают, что российские разработчики столкнулись с новым типом ошибок нейросетей — «галлюцинациями взаимодействия». Сбои происходят не вн...

06:00, 23 Апр Десять метров в длину: в озере Лох-Несс снова заметили чудовище После долгого периода затишья в Шотландии вновь начали обсуждать возможное появление легендарного чудовища на озере Лох-Несс. В начале марта поступил...

11:00, 17 Июл Российские ученые создали молекулу-убийцу: новый препарат оказался на 50% мощнее мировых аналогов Российские ученые разработали гибридный молекулярный "отбойный молоток", способный пробивать защиту самых стойких опухолей. Новое соединение обходит ...

00:00, 18 Июл Samsung Galaxy Tab S12 Ultra показали на новых рендерах. Дизайн почти не изменился, но он станет мощнее В сети появились новые CAD-рендеры Samsung Galaxy Tab S12 Ultra, созданные инсайдером OnLeaks совместно с Smartphone Checker. Изображения демонстриру...

14:00, 24 Июл Китайский стартап представил крупнейшую в мире открытую ИИ-модель. Она в полтора раза мощнее конкурентов Китайский стартап Moonshot AI выпустил языковую модель Kimi K3 с открытым исходным кодом. Разработчики утверждают, что это самая мощная открытая ИИ-м...

22:00, 06 Май "Пластиковые лица". После Met Gala в сети заметили, что Бейонсе в жизни выглядит не так, как на фото Бейонсе, Ким Кардашьян и её младшую сестру Кайли Дженнер (на троих более 1 млрд подписчиков в соцсетях) вновь обвинили в использовании фотошопа. Это ...

01:00, 18 Июн Бьянку Цензори в прозрачном боди и блестящих трусах заметили с Канье Уэстом у ночного клуба Бьянка Цензори в компании своего мужа, рэпера Канье Уэста, появилась в популярном клубе Renee в Швейцарии в прозрачном боди и блестящих трусах. Ранее...

21:00, 18 Июн Нейросети пугают сильнее: россияне стали чаще бояться ИИ За год среди россиян стало меньше тех, кто не испытывает опасений из-за развития искусственного интеллекта. Это следует из исследования SuperJob, в к...

04:00, 14 Июл В каком возрасте человек сильнее всего меняется внешне Лицо человека меняется на протяжении всей жизни, но есть период, когда это заметнее всего Мы привыкли считать, что изменения во внешности происходят ...

05:00, 14 Май Заменитель Toyota Grand Highlander с официальной гарантией и в два раза мощнее: большой семейный кроссовер Wey V9X протестировали морозом перед выходом в России Продажи Wey V9X в России стартуют к концу 2026 годаБольшой кроссовер Wey V9X планируют вывести в Россию в четвертом квартале этого года, но перед зап...

04:00, 04 Июл Стоимость ОСАГО взлетит уже осенью: каких водителей это коснется сильнее? Глава Российского союза страховщиков (РСА) Евгений Уфимцев сообщил, что с сентября 2026 года средняя цена полиса ОСАГО поднимется на 8,9%. Причем в М...

19:00, 17 Июл Новый препарат от рака оказался в 1,5 раза сильнее дорогого лекарства Учёные РАНХиГС создали молекулу-гибрид для химиотерапии, которая в 1,5 раза эффективнее озимертиниба — одного из самых новых и дорогих препаратов про...

16:00, 22 Май Цены на новостройки в Москве упали. Где квартиры подешевели сильнее всего В апреле стоимость квадратного метра в новостройках Москвы снизилась на 2–8%. Сильнее всего просели цены в Новой Москве — там падение составило 3,7%....

23:00, 19 Май Какая еда вызывает зависимость сильнее сладостей: врач назвал конкретные продукты Кофе и чипсы могут вызывать зависимость сильнее, чем сахар Когда говорят о еде, от которой сложно отказаться, обычно имеют в виду сладости. Но сильне...

05:00, 16 Июн Татьяна Буланова заявила, что в отношениях мужчина должен любить сильнее, чем женщина 57-летняя певица Татьяна Буланова поделилась своими мыслями о любви и отношениях."Знаешь, мне вот 57 лет, но ничего не поменялось с моих 15. Как я по...

12:00, 09 Июл Почти половина россиян боится остаться без зарядки смартфона сильнее, чем без денег Оказаться в незнакомом городе с выключенным телефоном для 48,7% жителей России страшнее или так же тревожно, как остаться совсем без денег. К такому ...

06:00, 27 Май В два раза дешевле Toyota Camry и в два раза мощнее: Geely Galaxy Star 7 Max стал хитом в Китае — 10 000 заказов за сутки Все версии Geely Galaxy Star 7, даже начальная, имеют полный привод с системой e-AWDGeely Galaxy отчитался об уверенном феноменальном старте продаж с...

11:00, 04 Июл Острова-декорации: 5 реальных мест, чьи истории пугают сильнее любого голливудского хита Острова принято считать символом безмятежности, но изоляция часто превращает клочок суши в декорацию для событий, которые сложно выдумать намеренно. ...

02:00, 27 Май «Новые люди» предложили штрафовать авиакомпании за овербукинг в два раза сильнее. Сколько заплатят пассажирам Депутаты Госдумы от фракции «Новые люди» выступили с инициативой ужесточить наказание авиакомпаний за перебронирование рейсов. Они хотят увеличить шт...

02:00, 18 Июн Вы можете спасти планету через тарелку: этот ужин вредит экологии сильнее авиаперелётов Обычный ужин с говяжьим стейком наносит климату такой же урон, как авиаперелет через половину континента. Ученые из Бристольского и Саутгемптонского ...

01:00, 24 Май ЧМ-2026 по хоккею. США уступили Латвии, Швеция проиграла Норвегии, Чехия была сильнее Словакии, Германия победила Австрию Продолжается чемпионат мира по хоккею-2026. Турнир проходит в Цюрихе и Фрибуре (Швейцария). США проиграли Латвии (2:4), Швейцария забросила 9 шайб Ве...

18:00, 18 Июн Сергей Ташуев: «Российские тренеры сильнее испанских. В работе Гвардиолы ничего особенного нет – сможет он пятое место с «Ахматом» занять? Даже рассуждать смешно» Главный тренер «Енисея» Сергей Ташуев заявил, что российские тренеры сильнее испанских. «Вот считают, что испанцы – очень сильные тренеры… Приезжали ...

01:00, 24 Май Ротенберг поздравил «Красную Машину-Юниор» с завершением сезона: «Важны не только медали и места. Главное – как наши дети становятся сильнее, учатся слушать тренера и никогда не сдаваться» Вице-президент ФХР, основатель академии «Красная Машина-Юниор» Роман Ротенберг поздравил юных хоккеистов с завершением сезона. «Хочу от всей души поз...