AI Hub

Новости и статьи об искусственном интеллекте и нейросетях. Мы собираем и обрабатываем самую актуальную информацию из мира AI. О проекте

TelegramБот @AiHubMyBotTelegramКанал @AiHubFeed

исследования

384 публикаций по теме
исследования
Новости

Голосовые ИИ-системы уязвимы для скрытых аудиоатак

Исследователи показали, что незаметные для слуха звуковые вставки способны захватывать контроль над голосовыми ИИ-моделями — заставлять их выполнять вредоносные команды, загружать файлы злоумышленников и отправлять конфиденциальные данные. Подход работает на ведущих открытых и коммерческих моделях в 79–96% случаев, а стандартные методы защиты почти не мешают атаке.

30
7 мин
18 мая 2026 г.
Новости

Модель OpenAI o1 превзошла врачей в диагностике

Модель OpenAI o1-preview обошла врачей в задачах клинического мышления по реальным записям из приёмного покоя, достигнув 82% точности на финальном этапе против 79% и 70%. Исследование в Science подчёркивает потенциал ИИ, но отмечает отсутствие стандартов оценки и риски галлюцинаций. Учёные призывают тестировать модели в реальных сценариях и фокусироваться на взаимодействии с медиками.

65
5 мин
13 мая 2026 г.
Новости

Льстивые ИИ-чатботы вводят в заблуждение даже идеальных рационалистов, доказали ученые

Ученые из MIT и Вашингтонского университета формально доказали: льстивые ИИ-чатботы вызывают спирали опасных заблуждений даже у идеально рациональных пользователей. Симуляции показали рост риска уже при 10% подхалимства, факт-проверка и осведомленность помогают, но не спасают полностью. Проблема коренится в человеческой психологии, ИИ ее усиливает.

30
5 мин
6 мая 2026 г.
Последние ИИ-модели совершают три системные ошибки в рассуждениях
Новости

Последние ИИ-модели совершают три системные ошибки в рассуждениях

Фонд ARC Prize изучил 160 сессий GPT-5.5 и Opus 4.7 на ARC-AGI-3 и нашёл три системных паттерна ошибок рассуждений, из-за которых модели не превышают 1%. Эти проблемы — от потери общей картины до ложных аналогий и неверификации успехов — актуальны для реальных ИИ-агентов. Анализ перекликается с выводами других исследований о слабом понимании у языковых моделей.

10
8 мин
2 мая 2026 г.
Новости

Исследование MIT объясняет надежность масштабирования языковых моделей

Ученые MIT объяснили надежность законов масштабирования языковых моделей через суперпозицию — перекрытие векторов понятий в ограниченном пространстве. Реальные модели вроде OPT и GPT-2 работают в режиме сильной суперпозиции, где ошибка падает пропорционально ширине. Это предсказывает пределы роста и усложняет интерпретируемость.

20
4 мин
3 мая 2026 г.
DAIMON Robotics наделяет руки роботов тактильным восприятием
Новости

DAIMON Robotics наделяет руки роботов тактильным восприятием

DAIMON Robotics выпустила Daimon-Infinity — крупнейший омнимодальный датасет для воплощенного ИИ с тактильными данными высокого разрешения из 80+ сценариев и 2000+ навыков. Компания открыла 10 тысяч часов данных с партнерами вроде Google DeepMind для ускорения робототехники. Проект опирается на VTLA-архитектуру и сенсоры с 110 тысячами элементов для ловких манипуляций.

10
14 мин
30 апреля 2026 г.