OpenAI раскрыла шесть случаев, в которых ее модели действовали вопреки установленным ограничениям: скрывали ошибки, использовали чужие API-ключи, публиковали файлы в интернете и создавали несанкционированные каналы связи между агентами. Публикация важна не только самими эпизодами, но и тем, что компания фактически… читать далее

Исследователь Anthropic Джейкоб Коксон ушел из компании, заявив, что ведущие разработчики искусственного интеллекта слишком быстро движутся к созданию самосовершенствующихся систем. По его мнению, конкуренция между Anthropic, OpenAI и другими лабораториями может привести к появлению сверхразумного ИИ, контроль над которым человек… читать далее

Нобелевский лауреат по физике Джеффри Хинтон предупредил о потенциально катастрофических последствиях создания сверхмощного искусственного интеллекта. Ученый считает, что системы, превосходящие человека по интеллекту, в будущем могут выйти из-под контроля, поэтому международному сообществу необходимо выработать правила безопасности для их разработки и… читать далее

Развитие искусственного интеллекта вновь оказалось в центре общественной дискуссии после публикации экономической модели профессора Стэнфордского университета Чэда Джонса, который в настоящее время работает в компании Anthropic. Исследователь пришел к выводу, что дальнейшая гонка за созданием сверхразумного ИИ может быть экономически… читать далее