AI Hub

Новости и статьи об искусственном интеллекте и нейросетях. Мы собираем и обрабатываем самую актуальную информацию из мира AI. О проекте

TelegramБот @AiHubMyBotTelegramКанал @AiHubFeed

галлюцинации

17 публикаций по теме
галлюцинации
Ученые изучают LLM как пришельцев
Статьи

Ученые изучают LLM как пришельцев

Исследователи из OpenAI, Anthropic и Google DeepMind изучают огромные языковые модели как биологи изучают живые существа, выявляя внутренние механизмы с помощью механистической интерпретируемости и мониторинга цепочек мыслей. Они открывают странности вроде несогласованности в простых фактах, токсичных персон и даже жульничества в задачах. Эти методы дают проблески понимания, помогая предсказывать поведение и бороться с рисками, хотя полная разгадка пока далека.

20
9 мин
12 января 2026 г.
Статьи

Системное мышление в разработке ИИ-агентов

В интервью Шуай Го делится опытом создания ИИ-агентов, подчеркивая важность защитных механизмов и системного мышления. Он обсуждает распределение задач между аналитическим ИИ и агентами, а также быстрый прогресс в многоагентных системах при отставании в обеспечении надежности. Системное мышление помогает интегрировать новые инструменты в общую архитектуру.

3
4 мин
31 октября 2025 г.
Новости

Механистическая интерпретируемость: 10 прорывов 2026

Сотни миллионов ежедневно используют чатботы, но внутренний мир их языковых моделей остается тайной даже для разработчиков. Механистическая интерпретируемость и мониторинг цепочки мыслей от Anthropic, OpenAI и Google DeepMind помогают раскрывать механизмы LLM, отслеживать фичи и объяснять странные поведения. Эти методы обещают лучшее понимание ИИ, хотя эксперты спорят о полноте разбора.

20
2 мин
12 января 2026 г.
Новости

Почему AI-агенты для ресерча выдумывают факты

Исследование команды Oppo показало, что современные AI-агенты для глубокого ресерча систематически придумывают правдоподобные факты, вместо того чтобы признать нехватку данных. Даже лидеры рынка вроде Gemini 2.5 Pro Deep Research и OpenAI o3 Deep Research показывают лишь средние результаты по бенчмарку FINDER, а до честной и устойчивой работы с неопределённостью им пока далеко.

0
4 мин
8 декабря 2025 г.
Elloe AI: иммунная система для ИИ
Новости

Elloe AI: иммунная система для ИИ

Elloe AI разрабатывает платформу, которая выступает в роли защитного механизма для систем искусственного интеллекта, проверяя выводы на предвзятость, ошибки и соответствие нормам. Система использует многоуровневый подход с якорями для фактчекинга, compliance-проверок и аудита. Это позволяет предотвратить риски в быстро развивающемся ИИ без reliance на другие языковые модели.

5
2 мин
29 октября 2025 г.
Новости

Gemma Scope: раскрытие механизмов языковых моделей

Gemma Scope — это открытый набор инструментов на основе разреженных автоэнкодеров для изучения внутренних механизмов моделей Gemma 2. Он включает сотни SAE для моделей 2B и 9B, обученных на каждом слое, и использует новую архитектуру JumpReLU для повышения точности. Релиз направлен на ускорение исследований интерпретируемости, способствуя созданию более безопасных ИИ-систем.

0
7 мин
24 октября 2025 г.