регулирование

Управление ИИ-агентами выходит на первый план из-за выявленных пробелов в контроле

Австралийский регулятор APRA после обзора финансовых фирм выявил слабости в управлении ИИ-агентами, включая риски поведения моделей, киберугрозы и зависимость от вендоров. Организации активно внедряют ИИ в ключевые процессы, но пробелы в мониторинге и контроле требуют доработки стратегий. FIDO Alliance разрабатывает стандарты аутентификации для ИИ-агентов, а Centre for Internet Security предлагает гайды по безопасности.

30 апреля 2026 г.

Пропущенный шаг между ажиотажем и прибылью

Активисты Pause AI с помощью мема из South Park подчёркивают разрыв в развитии ИИ: от суперразума к прибыли без ясного шага 2. Исследования Anthropic и Mercor показывают неопределённость воздействия на рабочие места — модели слабы в реальных задачах. Требуются прозрачность и новые оценки для понимания внедрения.

27 апреля 2026 г.

NSA применила Mythos Preview от Anthropic

NSA США использует мощную ИИ-модель Mythos Preview от Anthropic, несмотря на запрет Пентагона, классифицировавшего компанию как угрозу. Доступ к модели строго ограничен 40 организациями из-за опасных кибервозможностей, а CEO Anthropic обсуждал её внедрение в госструктуры. Британские спецслужбы тоже получили доступ через свой AI Security Institute.

1 мин

20 апреля 2026 г.

Claude Mythos: тревожный звонок для Европы по ИИ-безопасности

Anthropic ограничила доступ к Claude Mythos, мощной модели для поиска уязвимостей, для избранных партнеров вроде Apple и Microsoft. Европейские регуляторы почти не имеют информации и тестов, в отличие от Великобритании, где AISI уже оценил риски. Это подчеркивает отставание Европы в инфраструктуре ИИ-безопасности.

6 мин

14 апреля 2026 г.

Статьи

Вызовы управления агентными ИИ по Закону ЕС об ИИ в 2026

Закон ЕС об ИИ в 2026 году потребует от агентных систем строгих мер управления рисками, включая реестр агентов и криптографические логи с помощью Asqav. Статьи 9 и 13 подчеркивают необходимость непрерывного контроля на основе фактов и интерпретируемости моделей. Это позволит компаниям избежать проблем с регуляторами.

9 апреля 2026 г.

Почему NHTSA закрыла расследование парковки Tesla

Американские регуляторы NHTSA завершили расследование функции Actually Smart Summon в Tesla: инциденты редки и несерьезны. Из миллионов сеансов лишь малая часть привела к мелкому ущербу без жертв или травм. Компания улучшила ПО, а проверку могут открыть заново.

6 апреля 2026 г.

Пятилетний план Китая определяет цели по ИИ до 2030

Китай в 15-м Пятилетнем плане обозначил цели по ИИ до 2030 года: от чипов и моделей до инфраструктуры и регуляций. Фокус на вычислительных кластерах, мультимодальном ИИ и применении в экономике, услугах, госуправлении. Страна делает ставку на открытые эффективные модели, отличаясь от западного пути.

2 апреля 2026 г.

BioticsAI получила одобрение FDA для ИИ в УЗИ плода

BioticsAI создала ИИ-копилот для ультразвука, выявляющий аномалии плода, собрала прототип за менее 100 000 долларов и получила одобрение FDA. Компания победила на Startup Battlefield 2023 года и теперь внедряет продукт в больницы. Основатель Робхи Бустами рассказал, как интегрировали регуляторные требования с самого начала и мотивировали команду.

30 апреля 2026 г.

Lovable запустила мобильное приложение для vibe-кодинга на iOS и Android

Lovable несмотря на ограничения Apple выпустила мобильное приложение для vibe-кодинга на iOS и Android. Оно позволяет создавать код через голосовые или текстовые запросы ИИ в любом месте с возможностью переключения между устройствами. Компания обошла запреты, перенеся превью в браузеры, как и другие сервисы вроде Anything.

28 апреля 2026 г.

Clarifai стёрла 3 млн фото OkCupid для обучения распознаванию лиц

Clarifai удалила 3 миллиона фото от OkCupid, использованных для обучения ИИ распознавания лиц, после расследования FTC. Данные передали в 2014 году вопреки политике конфиденциальности, расследование запустила статья NYT в 2019-м. FTC заключила соглашение с OkCupid и Match Group, запретив misrepresentation данных.

25 апреля 2026 г.

Немецкий суд: ИИ-комикс по чужому фото законен

Высший региональный суд Германии постановил, что ИИ-обработка фото в комикс не нарушает авторские права, поскольку не копирует ключевые творческие элементы вроде композиции и освещения. Решение ссылается на практику Европейского суда и уточняет: охрана для ИИ-контента требует творческого вклада человека. Это согласуется с вердиктами других немецких судов и позицией США.

19 апреля 2026 г.

Почему Apple создаёт ИИ-агентов с ограничениями

Apple и Qualcomm разрабатывают ИИ-агентов с контрольными точками: перед платежами или изменениями аккаунта требуется подтверждение пользователя. Ограничения доступа к приложениям и локальное хранение данных усиливают приватность и снижают риски. Подход фокусируется на управляемой автономии, чтобы избежать финансовых потерь и утечек.

3 мин

10 апреля 2026 г.

Anthropic и Австралия подписали меморандум по ИИ-безопасности

Anthropic подписала меморандум с австралийским правительством для сотрудничества по безопасности ИИ и поддержки Национального плана. Выделено 3 млн AUD на проекты с вузами по медицине и образованию с использованием Claude, плюс обмен данными Economic Index. Компания расширяет AI for Science и готовит офис в Сиднее.

5 мин

8 апреля 2026 г.