Руководитель исследований компании заявил, что контроль над передовыми ИИ-моделями нельзя оставлять самим технологическим лабораториямКристофер Ола (Christopher Olah), сооснователь и руководитель исследований интерпретируемости в компании Anthropic, выступил на презентации первой энциклики Папы Льва XIV «Magnifica humanitas» в Синодальном зале Ватикана. Он
впервые на столь высокой площадке заявил: развитие передового ИИ нельзя доверять только лабораториям, которые их создают.Ола подчеркнул, что даже самые добросовестные исследователи работают в условиях коммерческих, политических и личных стимулов, которые могут противоречить интересам общества. Поэтому, по его словам, необходим внешний контроль — со стороны религиозных лидеров, государств и гражданских
институтов.Вторая часть выступления была посвящена рискам для рынка труда: по оценке Anthropic, искусственный интеллект может вытеснить людей с рабочих мест в масштабах, с которыми экономика не справится без поддержки. Ола назвал моральной обязанностью помощь тем, кто окажется без работы из-за развития ИИ.Иллюстрация: Nano BananaПрисутствие Anthropic в Ватикане стало самым заметным шагом компании в 2026 году. Фирма открыла офис в
Милане и теперь участвует в формировании крупнейшего религиозного документа о технологиях со времён энциклики «Rerum novarum» (1891).Роль Ола как главы исследований интерпретируемости — ключевой для репутации Anthropic в вопросах безопасности: его команда занимается тем, чтобы понять, как работают передовые ИИ-модели внутри.На фоне этого Anthropic столкнулась с давлением со стороны властей США: весной компанию отстранили от секретных военных проектов из-за её
собственных ограничений, а также заблокировали расширение автономной системы Mythos, способной находить уязвимости в кибербезопасности банков.Выступление Ола стало прямым ответом на эти вызовы: он заявил, что компании не могут сами регулировать себя, и призвал к созданию внешней системы контроля. Вопрос о том, как это будет реализовано на практике, остаётся открытым.
Сообщает www.ixbt.com
Новость из рубрики: Технологии и Hi-Tech
Поделиться новостью:
Топ Новости Недели
- Современный подход к выводу из запоя на дому: этапы медицинской помощи, особенности лечения в домашних условиях и комплексное восстановление физического и психологического состояния...
- Полное руководство по вызову нарколога на дом: как проходит медицинская помощь, детоксикация организма, стабилизация состояния и дальнейшее восстановление при зависимости...
- Как проходит профессиональный вывод из запоя на дому: безопасная медицинская помощь, детоксикация организма, психологическая поддержка и дальнейшее восстановление пациента...
- Комплексный медицинский подход к выводу из запоя в стационаре: этапы лечения, восстановление организма, психологическая поддержка и долгосрочная реабилитация...
- Полное руководство по сдаче тестов в университете имени С.Ю. Витте: как устроена система контроля знаний, особенности онлайн-экзаменов, подготовка студентов и современные образовательные технологии...
- Почему слухи про слив базы Семяныч неактуальны...
- Полное и подробное руководство по выбору смартфонов и мобильных телефонов: как разобраться в характеристиках, технологиях и функциях, чтобы найти идеальное устройство для работы, общения и развлечений...
- Полное руководство по выбору пленки для сада: современные материалы, защита растений, создание идеального микроклимата и повышение урожайности на вашем участке...
- Как выбрать идеальный мобильный телефон в современном мире: подробное руководство по характеристикам, технологиям, функциям и грамотному подбору смартфона под любые задачи и стиль жизни...
- Искусство выбора зеркал для современного интерьера: как создать стильное пространство, визуально расширить помещение и подчеркнуть индивидуальность дизайна с помощью отражающих поверхностей...
13:00, 30 Апр Правительство РФ смягчило регулирование искусственного интеллекта Российские власти переработали проект федерального закона, регламентирующего создание и применение технологий искусственного интеллекта. Первая реакц...
03:00, 28 Апр Почему банки по всему миру так обеспокоены новейшей моделью искусственного интеллекта от Anthropic? Легендарный американский грабитель банков Уилли Саттон 40 лет грабил банки, потому что, как он утверждал в своей автобиографии , ему это нравилось. А...
03:00, 28 Апр Ведущие китайские игроки на рынке искусственного интеллекта В Китае бушует бум искусственного интеллекта, и выпуск в пятницу новой большой языковой модели (LLM) ведущим стартапом DeepSeek подчеркивает стремите...
15:00, 21 Апр В Тверской области назначена больница для внедрения искусственного интеллекта 20 апреля глава Тверской области Виталий Королев ознакомился с работой одного из крупнейших учреждений здравоохранения Твери – городской больницы №6....
18:00, 21 Май В Пензенской области дан старт масштабной работе по интеграции искусственного интеллекта Фото: правительство Пензенской областиВ Пензенской области дан старт масштабной работе по интеграции искусственного интеллекта. Губернатор региона ли...
21:00, 26 Апр Авито в 1,6 раз повысил эффективность социальных механик с помощью искусственного интеллекта Технологическая платформа Авито первой в России применила комбинацию генеративного ИИ и рекомендательных алгоритмов для автоматизации социальных и бл...
19:00, 09 Май МГУ запустил первый набор на факультет искусственного интеллекта. Что известно о новом проекте Московский государственный университет имени М.В. Ломоносова объявил о начале приёма студентов на новый факультет искусственного интеллекта. Об этом ...
00:00, 20 Май Папа римский против «спирали уничтожения»: Ватикан готовит энциклику против боевого ИИ — вместе с сооснователем Anthropic Глава Католической церкви Лев XIV лично представит важнейший документ о защите человеческого достоинства и прав рабочих в эпоху искусственного интелл...
20:00, 25 Май ЛДПР попросила ФАС проверить производителей из-за шринкфляции. Что это такое Лидер ЛДПР Леонид Слуцкий обратился в Федеральную антимонопольную службу с просьбой проверить производителей и торговые сети. Депутат требует дать оц...
19:00, 20 Апр "Попросила ДНК-тест". Жена звезды "Универа" и его экс-любовница рассказали свои версии скандала вокруг 14-летнего внебрачного сына актёра На Первом канале вышла программа "Пусть говорят", посвящённая скандальной истории звезды сериала "Универ" Арарата Кещяна, у которого не так давно обн...
23:00, 25 Май "Вопрос только интеллекта". В сети высмеяли Евгения Чичваркина* за его слова о том, что все могут быть богатыми В сети раскритиковали 51-летнего бизнесмена Евгения Чичваркина*, который в интервью блогеру Илье Варламову* на его YouTube-канале заявил, что у каждо...
20:00, 30 Май Запуск «искусственного Солнца» всё ближе: магнит ITER весом 330 тонн успешно охладили до рабочей температуры в -269 градусов Цельсия На строящемся реакторе ITER запустили испытательный комплекс для проверки сверхпроводящих магнитовИнженеры международного термоядерного проекта ITER ...
22:00, 17 Апр Anthropic запустила Claude Design для Mac Anthropic выпустила Claude Design для Mac — инструмент для проектирования интерфейсов и прототипов на базе Opus 4.7. Компания явно пытается закрепить...
07:00, 09 Май Anthropic уперлась в проблемы инфраструктуры Anthropic сама признает, что не успевает переварить спрос: компания готовилась к росту в 10 раз, а получила 80-кратный скачок в первом квартале. Для ...
21:00, 28 Апр Anthropic оценили в $1 трлн на вторичном рынке Спрос на акции разработчика Claude резко вырос и впервые превысил оценки OpenAIКомпания Anthropic, разрабатывающая системы искусственного интеллекта ...
11:00, 02 Июн Anthropic начала подготовку к IPO и подала документы в SEC Создатель Claude направил в Комиссию по ценным бумагам и биржам США конфиденциальную заявку, открыв себе возможность выйти на биржу после завершения ...
22:00, 14 Май Anthropic опубликовала манифест о борьбе США и Китая за ИИ Разработчик Claude требует закрыть лазейки в экспортном контроле, остановить «дистилляционные атаки» китайских моделей и не допустить, чтобы искусств...
09:00, 20 Апр NSA использует Mythos Anthropic вопреки запрету Пентагона Национальное агентство безопасности США продолжает пользоваться Anthropic Mythos Preview, хотя Пентагон уже пометил компанию как поставщика с риском ...
02:00, 26 Май Anthropic обсуждает обучение моделей на чипах Microsoft Maia Anthropic ведет переговоры с Microsoft о переносе части обучения и инференса своих моделей на ускорители Maia 200. Для лаборатории это еще один шаг к...
20:00, 25 Май В США не смогли отказаться от Anthropic даже после запрета Пентагона Дефицит ИИ-чипов вынудил разведку продолжить работу с компанией, признанной риском для национальной безопасностиИз-за острого дефицита современных чи...
06:00, 20 Апр ИИ-бумеранг: глава Anthropic предрёк исчезновение программистов и тут же открыл 429 вакансий для них Глава компании Anthropic Дарио Амодеи заявил, что искусственный интеллект вытеснит инженеров и разработчиков с рынка труда. Одновременно с этим его к...
15:00, 18 Апр Anthropic и администрация Трампа обсуждают сотрудничество на фоне спора о применении ИИ После конфликта с Пентагоном и статуса «риска для цепочек поставок» компания продвигает модель Claude Mythos для кибербезопасности и возвращается к п...
00:00, 20 Май Звёздный трансфер в мире ИИ: Андрей Карпати переходит в Anthropic вместо OpenAI Один из самых известных разработчиков нейросетей признал, что стремительный прогресс ИИ-агентов для программирования заставил его пересмотреть собств...
19:00, 20 Апр Anthropic выпустила новую ИИ-модель Claude Opus 4.7. Что она умеет и кому навредила Американская компания Anthropic представила обновлённую версию искусственного интеллекта Claude Opus 4.7. Модель стала мощнее в программировании и ра...
09:00, 12 Май Anthropic объяснила шантаж со стороны ИИ, когда его хотели заменили на новую версию Anthropic, создатель ИИ-чатбота Claude, выяснила причину необычного поведения своих ИИ. Во время тестов более старая модель Claude Opus 4 в 96% случа...
11:00, 21 Апр 5 ГВт вычислительных мощностей и обязательства на 10 лет вперёд. Amazon и Anthropic объявили о расширении сотрудничества Anthropic будет использовать вычислительные мощности на основе чипов AmazonКомпании Anthropic и Amazon объявили о расширении сотрудничества. Новый эт...
22:00, 28 Май Anthropic выпустила Claude Opus 4.8: модель стала честнее о своих ошибках и заметно прибавила в качестве агентов Новая версия Claude улучшила работу AI-агентов без подсказок, научилась точнее оценивать собственные ограничения и приблизилась к GPT-5.5 в сложном п...
07:00, 25 Май Anthropic может впервые выйти в операционную прибыль на фоне резкого роста выручки и взрывных затрат на вычисления Компания ожидает около $10,9 млрд квартальной выручки, но предупреждает: прибыльность может быть временной из-за масштабных инвестиций в инфраструкту...
12:00, 29 Май Anthropic, которая получила доступ к суперкомпьютеру Илона Маска Colossus, опередила OpenAI и xAI, став самым дорогим ИИ-стартапом в мире с оценкой почти $1 трлн Капитализация выросла до $965 млрдАмериканская Anthropic вышла на первое место среди ИИ-стартапов по рыночной оценке, достигнув капитализации около $...
03:00, 28 Апр Google инвестирует 10 миллиардов долларов, и может добавить еще 30 миллиардов долларов в Anthropic В пятницу компания Google подтвердила, что планирует инвестировать до 40 миллиардов долларов в Anthropic, расширяя давнее партнерство между двумя ком...