Исследователь ИИ уволился из ведущей американской лаборатории, предупредив о конце света

Бывший сотрудник одной из крупнейших американских лабораторий искусственного интеллекта Джейкоб Коксон объявил об уходе из индустрии, обвинив своих работодателей в безответственной гонке за созданием сверхразума, способного к самосовершенствованию. 27-летний исследователь, три года занимавшийся предобучением моделей, заявил, что компании, в которых он работал, «ставят на кон наши жизни» и «играют в рулетку» с будущим человечества. Коксон начал свою

карьеру в области ИИ в одной из ведущих американских лабораторий, а затем перешёл в конкурирующую организацию, которую считал более осторожной в вопросах безопасности. Однако, по его словам, обе структуры оказались заложниками гонки, где остановка означает потерю позиций. «Ни одна из компаний не действует ответственно. Они несутся напролом к самоулучшающемуся сверхразуму и играют в рулетку нашими жизнями», —

написал он в социальной сети X. Главный страх исследователя связан с так называемым рекурсивным самоулучшением — сценарием, при котором искусственный интеллект берёт на себя достаточную часть исследований в собственной области и начинает ускоренно создавать всё более мощные версии самого себя. По оценке Коксона, человечество движется по «одному из самых агрессивных

сценариев», при котором уже к концу 2027 года ситуация может выйти из-под контроля. Особое внимание Коксон уделил разрыву между публичной риторикой руководителей ИИ-компаний и их частными разговорами. «Люди, создающие ИИ, искренне верят, что он может погубить нас всех к концу десятилетия. Это не маркетинговый трюк. Многие руководители и старшие исследователи будут подбирать слова в прессе так, чтобы звучать разумно, но я слышу, как те же

самые люди выражают страх наедине», — подчеркнул он. Позицию Коксона поддержал руководитель одного из направлений безопасности в его бывшей компании Эван Хубингер. «Мы действительно всерьёз считаем, что ИИ может убить всех людей», — написал он, оценив вероятность такого сценария в течение ближайшего десятилетия более чем в 10%. По его словам, лаборатория старается действовать ответственно,

однако не имеет готового плана, который гарантировал бы согласование поведения сверхинтеллекта с человеческими целями. Уход Коксона стал вторым громким случаем за год: в феврале аналогичное решение принял руководитель исследовательской группы по безопасности, предупредивший о «мире в опасности». Внутри лабораторий, по словам Коксона, всё чаще звучат слова «crunchtime» и «endgame», отражающие ощущение приближающейся финальной стадии. На фоне этих заявлений в

США уже предложен законопроект о приостановке разработки сверхмощных ИИ-систем до создания федерального регулятора. Однако пока отрасль продолжает движение к технологической сингулярности, исследователи, покидающие её, оставляют после себя лишь предупреждения о том, что человечество может не успеть осознать последствия своего творения.

Исследователь ИИ уволился из ведущей американской лаборатории, предупредив о конце света

Сообщает android-robot.com

Новость из рубрики: Интернет

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

На кону наши жизни. Исследователь Джейкоб Коксон из Anthropic уволился из страха перед сверхмощным ИИ 21:00, 09 Сен "На кону — наши жизни". Исследователь Джейкоб Коксон из Anthropic уволился из страха перед сверхмощным ИИ Исследователь Джейкоб Коксон уволился из компании Anthropic из страха перед сверхмощным ИИ и заявил, что искусственный интеллект может уничтожить всю...

09:00, 25 Июл Точно по Хокингу. В NASA заговорили о скором конце света Еще несколько лет назад прогнозы Стивена Хокинга многим казались слишком мрачными. Всемирно известный физик утверждал, что без радикального пересмотр...

Мы были бы дураками: крестный отец ИИ Джеффри Хинтон призвал запретить сверхмощные нейросети, предупредив об угрозе исчезновения человечества 14:00, 13 Сен «Мы были бы дураками»: «крестный отец ИИ» Джеффри Хинтон призвал запретить сверхмощные нейросети, предупредив об угрозе исчезновения человечества Нобелевский лауреат и один из создателей современных нейросетей Джеффри Хинтон выступил с беспрецедентно жёстким предупреждением: утрата контроля над...

03:00, 20 Апр Исследователь безопасности нашел метод обхода защиты функции Windows Recall Когда Microsoft впервые анонсировала ИИ-функцию Windows Recall, которая непрерывно делает скриншоты большинства действий пользователя, эксперты сразу...

02:00, 06 Май Исследователь выяснил, что Microsoft Edge хранит пароли в открытом виде в оперативной памяти Изображение сгенерировано в Nano Banana 2 Норвежский специалист по кибербезопасности Том Йоран Сёнстебюсетер Рённинг (Tom Jøran Sønstebyseter Rønning...

13:00, 27 Июл Можно ли создать новый вид животного в лаборатории Фактически ученые уже умеют создавать новые виды животных, это произошло уже во времена СССР Можно ли в лаборатории создать животное, которого никогд...

10:00, 16 Июл Иран заявил о мощном ударе по американской базе Шейх-Иса в Бахрейне Корпус стражей исламской революции (КСИР, элитные части иранских ВС) заявил о нанесении ударов по военным объектам США на расположенной в Бахрейне ба...

17:00, 13 Авг SpaceX запустит 32 орбитальные лаборатории для разработки лекарств Дочерняя компания американского разработчика космической инфраструктуры Redwire — SpaceMD — заключила контракт на проведение фармацевтических исследо...

04:00, 04 Авг Россия увеличила закупки американской одежды в 2,4 раза. Что покупают больше всего За первые пять месяцев 2026 года Россия импортировала одежду из США на $22,1 миллиона — в 2,4 раза больше, чем за аналогичный период прошлого года. С...

21:00, 11 Сен Исследователь купил 6 ТБ данных Anthropic Claude с китайского LLM-маршрутизатора и нашел ключи для доступа к Xiaomi, Huawei и госучреждениям Через ИИ-роутеры могут утекать SSH-ключи, токены и другие секретные данные ИИ-роутеры, которые распределяют запросы пользователей между различными яз...

11:00, 02 Июн Точность до микрона: детали для новых Lada проверяют в 3D-лаборатории Система измерений работает на отечественном программном обеспеченииКаждая деталь автомобилей Lada проходит цифровой контроль, где виртуальная модель ...

01:00, 07 Июл Южнокорейский производитель чипов SK Hynix привлечёт $28 млрд на американской бирже. Как он собирается это сделать Южнокорейская компания SK Hynix размещает акции на американской бирже Nasdaq. Производитель микросхем планирует привлечь около $28 млрд через выпуск ...

10:00, 01 Май В погоне за пылью: качество воздуха в Петербурге проверяют передвижные лаборатории Когда петербуржцы жалуются на неприятные запахи, на место выезжает мобильная лаборатория. В кузове авто оборудован исследовательский центр с газоанал...

01:00, 05 Май Черная вдова из лаборатории: секрет уральского апокалипсиса, который КГБ прятал 13 лет Представьте: обычное утро в Свердловске, люди спешат на работу и учебу, кто-то пьет кофе на балконе. В этот момент над городом проносится невидимое, ...

04:00, 22 Апр В Канаде запускают производство ядерных микрореакторов: проект CSMC выходит из лаборатории Компания из Торонто получила государственное финансирование для серийного выпуска компактных реакторов на базе проверенной технологии SLOWPOKEКанадск...

03:00, 19 Июн В Зеленограде строят «чистую комнату» для первой российской установки металлизации чипов — на замену американской и швейцарской систем Минпромторг профинансирует разработку отечественного аналога оборудования Applied MaterialsГруппа компаний «Элемент» начала подготовку инфраструктуры...

14:00, 15 Сен Это открытие поразило лаборатории: найден метод синтеза чистейших материалов без лишних затрат Химики создали катализаторы на основе солей платины и воды, которые упрощают синтез силиконов. Новая технология позволяет получать чистые материалы п...

04:00, 20 Авг $3 млрд на ускорение чипов: Lam Research расширит лаборатории на 50% и сократит недели экспериментов до дней Один из крупнейших производителей оборудования для выпуска микрочипов вкладывается в глобальную сеть R&D-центров в США, Азии и Европе, чтобы быстрее ...

19:00, 03 Июл Туск заявил о конце эры доброжелательности Польши к Украине В отношениях между Польшей и Украиной наступает новый этап, заявил премьер-министр Польши Дональд Туск. По его словам, Варшава больше не намерена в о...

21:00, 29 Май Новейший завод Samsung за $17 миллиардов оживает: массовый выпуск 2-нанометровых чипов на американской фабрике стартует в 2027 году В основном будут выпускать однокристальные системы Tesla AI5 и Tesla AI6Строительство большого завода Samsung по контрактному производству микросхем ...

22:00, 14 Май Российская спутниковая связь «Рассвет» — это не копия Starlink. Глава «Бюро 1440» рассказал, в чем отличие российской системы от американской В основе «Рассвет» — технология 5G NTNСозвездие «Рассвет», развертываемое «Бюро 1440», не является копией Starlink, а создается как собственная спутн...

19:00, 01 Июл Lenovo предупреждает о конце эры дешёвой электроники и росте цен до 2030 года Один из крупнейших в мире производителей компьютеров заявил, что давление на стоимость памяти будет нарастать, а вслед за ней подорожают все типы уст...

17:00, 15 Июл 25 метеоров в час: в конце июля Земля увидит почти горизонтальный звездопад В ночь на 31 июля Южные дельта-Аквариды выйдут на пик активности. Если повезёт с погодой и местом наблюдения, на небе можно будет заметить до 25 мете...

22:00, 15 Июл В конце июля с Земли можно будет увидеть горизонтальный звездопад Метеорный поток Южные дельта-Аквариды достигнет пика в ночь на 31 июляЕвгений Бурмистров, эксперт в области астрономии из Пермского национального исс...

02:00, 27 Авг Тонкая настройка. От действий в конце лета зависит, как сад встретит весну В саду — пора тихой подготовки: лето ещё держится, но растения уже настраиваются на покой. Эти дни задают тон всей зимовке — и от своевременных, акку...

13:00, 14 Май Поставки импортозамещённых самолетов SJ-100 с двигателями ПД-8 могут начать уже в конце 2026 года Сроки поставок первых SJ-100 упираются в технические моменты по передаче лайнеров заказчикамПоставки импортозамещённых SJ-100 с двигателями ПД-8 могу...

21:00, 21 Авг Спутник «РешуКуб‑4» испытает «зелёный» двигатель на орбите в конце 2027 года В Сибирском университете науки и технологий имени Решетнева разрабатывают малый космический аппарат «РешуКуб‑4» для испытания двигательной установки ...

15:00, 04 Авг Море без разорения и космических ценников: куда рвануть в конце лета вместо Турции Август традиционно считается самым дорогим месяцем для поездки к морю, когда цены в популярных отелях Сочи или Турции достигают пика. Однако в разгар...

17:00, 06 Июн Покупаю верхнюю полку в конце вагона и еду без соседей: 12 способов занять все купе одному - какие точно сработают Фото редакции "Pro Город Пенза"Есть два типа пассажиров: те, кто любит поболтать в поезде, и те, кто мечтает, чтобы сосед молчал всю дорогу. Интровер...

04:00, 22 Июл Остался всего месяц: российскую мегаустановку «СКИФ» запустят в конце августа. Это самый мощный в мире источник фотонов Она позволит изучать структуру вещества на атомном уровнеСтало известно, когда состоится запуск построенного в России синхротрона «СКИФ», который уже...

04:00, 13 Сен В конце сентября 10 листочков лаврушки перетираю прямо в ладонях и кладу к батарее: многие даже не догадываются, зачем это делать ПрогородВ конце сентября дома постепенно начинается совсем другой сезон: окна открывают реже, вечерами становится прохладно, а после включения отопле...

06:00, 28 Июн Украинцев предупредили о длительных отключениях света летом Из-за сильной жары и перегрузки сетей украинцам грозят отключения электроэнергии продолжительностью до пяти часов в сутки, заявил энергетический эксп...

17:00, 17 Авг "Последний дом" научит правильно подготовиться к концу света Пригород Сиэтла. Обыкновенное американское семейство – мама, папа и двое детей – в начале декабря собираются за рождественской ёлкой. Но их планы вне...

15:00, 29 Июл Учёные МИЭТ превратят CO₂ в топливо с помощью света и электричества Исследователи НИУ МИЭТ с коллегами разработали способ переработки углекислого газа в метиловый спирт (метанол) с использованием света и электрическог...

19:00, 14 Авг Апокалипсис уже наступил: проповедники нашли знаки конца света Человечество уже более ста лет живет в эпоху конца времен, согласно анализу библейских пророчеств. Об этом сообщило издание Daily Mail. По мнению пре...

04:00, 29 Май Убережет от взрыва бомбы: представлен внедорожник для конца света Rezvani Fortress – так назвали новый внедорожник, который американцы создали на базе Ford F-150 Raptor. С виду это просто мощный пикап, но инженеры и...

19:00, 03 Июл Более десяти районов Крыма остались без света из-за атак беспилотников ВСУ В Крыму после ударов украинских беспилотных аппаратов зафиксированы масштабные перебои с электроснабжением, охватившие значительную часть полуострова...

01:00, 27 Апр Лёд отступил — и показал то, что скрывали 80 лет: тайна базы на краю света всплыла Арктика не прощает ошибок, но умеет хранить тайны под многометровым слоем льда. Десятилетиями полярные широты считались лишь ареной борьбы с суровой ...

03:00, 05 Июн Журнал «Вокруг света» отметил 165-летний юбилей в петербургской Кунсткамере В центре Петербурга сегодня соединилось прошлое, настоящее и будущее. Двор Кунсткамеры превратился в живое иммерсивное пространство, где гости могли ...

15:00, 24 Июн Астрономы нашли источник света, который сделал Вселенную прозрачной Телескоп «Хаббл» обнаружил гигантское звездное скопление, помогавшее рассеивать водородный «туман» ранней ВселеннойКосмический телескоп «Хаббл» обнар...

16:00, 29 Апр Ученые из Испании выяснили, через сколько лет наступит конец света Ученые из Международного физического центра в Доностии (DIPC, Испания) выяснили, что конец света наступит намного раньше, чем это предполагалось ране...

20:00, 15 Май Река Евфрат высыхает: почему это считают знаком конца света Библейская река Евфрат высыхает: пророчества об Армагеддоне становятся реальностью. Река Евфрат, упомянутая в Библии как один из предвестников Армаге...

08:00, 12 Май «Авторевю»: у внедорожника Deepal G318 есть опция «кемпингового света» Эксперты «Авторевю» протестировали внедорожник Deepal G318, продажи которого стартовали на рынке РФ. Это последовательный полноприводный гибрид, у ко...

05:00, 02 Июл Одни из первых в мире: в России создали источник «сжатого» света на чипе Разработка выведет квантовые технологии на новый уровеньНаучные группы Квантового центра Росатома первыми в России и одними из первых в мире создали ...

00:00, 21 Апр Ученый на краю света сделал единственное фото редчайшего солнечного затмения На станции Concordia в Антарктиде увидели редкое кольцеобразное солнечное затмениеНа удаленной антарктической исследовательской станции «Конкордия» ф...

12:00, 04 Сен Шляпа, сломавшая физику: как математическая загадка заставила частицы света танцевать В науке существует разница между тем, чтобы просто заполнить пространство, и тем, чтобы сделать это без единого повтора. Математическая головоломка, ...

08:00, 04 Авг Остров погрузился во тьму: Куба снова осталась без света из-за краха энергосистемы Куба столкнулась с очередным системным коллапсом энергетики: национальная сеть SEN полностью прекратила работу вечером 2 августа. Кризис приобрел хро...

18:00, 12 Май Конец света существует: парадоксы Патагонии, которые заставят забыть о жарких курортах Патагония — это суровый край на юге Аргентины, где ледники встречаются со степью. Здесь туриста ждут штормовые ветры, живой рокот ледника Перито-Море...

22:00, 17 Апр Christie сделала еще один шаг к полному переходу в проекторах на чисто лазерные RGB источники света Высокая цена сдерживает внедрение передовых RGB-лазерных источников света, но постепенно это все-таки происходит и Christie с большим опережением лид...

07:00, 30 Апр Тени дежурят на старых станциях: сбои света и усталость металла рождают образы призраков Забудьте про скучные учебники. Бывают места, где реальность дает сбой, будто кто-то случайно пролил кофе на пульт управления вселенной. Легенды о при...

12:00, 15 Май Этот повербанк на 20 000 мАч заряжает даже MacBook: купил на дачу и больше не боюсь отключений света Если вы хоть раз оставались без электричества на даче, когда все гаджеты разряжены, а до ближайшей розетки — как до Луны, вы понимаете это не самое п...

08:00, 25 Май Край света внезапно стал модным: северный посёлок среди руин притягивает тысячи туристов Териберка превратилась в арктический феномен, где руины советского эксперимента соседствуют с люксовыми отелями. Сегодня этот поселок площадью в неск...

10:00, 11 Июл Север больше не будет краем света: Россия запускает крупнейшее обновление арктических городов до 2035 года Правительство России утвердило долгосрочные планы развития 15 опорных арктических городов, зафиксировав правила игры в регионе до 2035 года. Основной...

18:00, 12 Май Стоит ли лететь на край света? В Патагонию едут даже те, кто боится холода — ледяная стена того стоит Патагония — это край, где природа не просто окружает вас, она диктует свои правила. Здесь ледники дышат, а ветер обладает плотностью бетона. Пока вы ...