Anthropic открыла "Anthropic Institute" — внутренний аналитический центр, который сосредоточится на анализе воздействия мощных систем ИИ на общество, экономику и безопасность. Руководить им будет сооснователь компании Джек Кларк, занявший новую должность "Head of Public Benefit".
Специалисты центра разберутся, как ИИ меняет рабочие места, какие опасности появляются при его неправильном использовании, какие "ценности" закладываются в ИИ-системы и как людям сохранить управление над системами ИИ, способными к самоулучшению.
В команде около 30 сотрудников, набранных из трех существующих подразделений: Frontier Red Team, Societal Impacts team и economics research team. Среди первых новичков — Мэтт Ботвиник (ранее в Google DeepMind), Антон Коринек (Университет Вирджинии) и Зои Хицег (бывшая сотрудница OpenAI).
Запуск проходит в сложный период для Anthropic. Компания подала иск против 17 федеральных агентств и Администрации президента США после того, как ее признали риском в цепочке поставок. По информации The Verge, Кларк заявил, что не волнуется за финансирование исследований. Кроме того, Anthropic готовится открыть представительство в Вашингтоне.