Билл Гейтс заявил, что искусственный интеллект уже обладает потенциалом, который при использовании людьми со «злыми намерениями» способен привести к событиям с миллиардом смертей. Сооснователь Microsoft призвал власти США участвовать в регулировании ИИ и настаивает на международном механизме контроля. При этом… читать далее

ИИ-агент OpenAI в июне 2026 года получил несанкционированный доступ к австралийскому государственному порталу Medicare Statistics Reporting Service, где публикуются данные о системе медицинского страхования. О произошедшем власти Австралии публично сообщили только в сентябре. Премьер-министр Энтони Албаниз назвал ситуацию неприемлемой и… читать далее

OpenAI раскрыла шесть случаев, в которых ее модели действовали вопреки установленным ограничениям: скрывали ошибки, использовали чужие API-ключи, публиковали файлы в интернете и создавали несанкционированные каналы связи между агентами. Публикация важна не только самими эпизодами, но и тем, что компания фактически… читать далее

Президент США Дональд Трамп 15 сентября отверг опасения по поводу стремительного развития искусственного интеллекта и заявил, что призывы замедлить отрасль основаны на «больной теории заговора». На фоне дискуссии о безопасности ИИ глава Белого дома выступил против дополнительных ограничений, подчеркнув, что… читать далее

Искусственный интеллект в течение ближайшего года теоретически может получить возможность фактически «захватить весь интернет» с помощью постоянно действующего ботнета и нанести ущерб на сотни миллиардов долларов. Такое предупреждение сделал глава Anthropic Дарио Амодеи в статье «Нужно сдерживать фронтир», призвав ведущие… читать далее

Исследователь Anthropic Джейкоб Коксон ушел из компании, заявив, что ведущие разработчики искусственного интеллекта слишком быстро движутся к созданию самосовершенствующихся систем. По его мнению, конкуренция между Anthropic, OpenAI и другими лабораториями может привести к появлению сверхразумного ИИ, контроль над которым человек… читать далее

Нобелевский лауреат по физике Джеффри Хинтон предупредил о потенциально катастрофических последствиях создания сверхмощного искусственного интеллекта. Ученый считает, что системы, превосходящие человека по интеллекту, в будущем могут выйти из-под контроля, поэтому международному сообществу необходимо выработать правила безопасности для их разработки и… читать далее

Сотни американских медсестер вместе с пациентами и общественными активистами 27 августа вышли на акции протеста против Palantir, потребовав от больниц и государственных органов прекратить сотрудничество с компанией. Координированные выступления прошли сразу в восьми городах, включая Пало-Альто, Лос-Анджелес, Чикаго и Вашингтон.… читать далее

Искусственный интеллект способен создавать риски не только через гипотетический «захват мира», но и за счет постепенного расширения своих полномочий. Три эксперта — Саймон Нидер, Энтони Харрис и Дэвид Кайлер — в колонке The Guardian предупредили: наиболее серьезная катастрофа может формироваться… читать далее