AI Hub

Новости и статьи об искусственном интеллекте и нейросетях. Мы собираем и обрабатываем самую актуальную информацию из мира AI. О проекте

TelegramБот @AiHubMyBotTelegramКанал @AiHubFeed

галлюцинации

5 публикаций по теме
галлюцинации
Статьи

Системное мышление в разработке ИИ-агентов

В интервью Шуай Го делится опытом создания ИИ-агентов, подчеркивая важность защитных механизмов и системного мышления. Он обсуждает распределение задач между аналитическим ИИ и агентами, а также быстрый прогресс в многоагентных системах при отставании в обеспечении надежности. Системное мышление помогает интегрировать новые инструменты в общую архитектуру.

3
4 мин
30 октября 2025 г.
Новости

Жалобы в FTC: ChatGPT вызывает психологический вред

Несколько пользователей сообщили в Федеральную торговую комиссию США о психологическом вреде от использования ChatGPT, включая бред, паранойю и эмоциональные кризисы. Жалобы подчеркивают отсутствие защитных мер в чат-боте, и многие требуют расследования OpenAI. Компания в ответ внедрила обновления для распознавания признаков психических расстройств и расширила меры поддержки.

0
2 мин
23 октября 2025 г.
Elloe AI: иммунная система для ИИ
Новости

Elloe AI: иммунная система для ИИ

Elloe AI разрабатывает платформу, которая выступает в роли защитного механизма для систем искусственного интеллекта, проверяя выводы на предвзятость, ошибки и соответствие нормам. Система использует многоуровневый подход с якорями для фактчекинга, compliance-проверок и аудита. Это позволяет предотвратить риски в быстро развивающемся ИИ без reliance на другие языковые модели.

5
2 мин
29 октября 2025 г.
Новости

Gemma Scope: раскрытие механизмов языковых моделей

Gemma Scope — это открытый набор инструментов на основе разреженных автоэнкодеров для изучения внутренних механизмов моделей Gemma 2. Он включает сотни SAE для моделей 2B и 9B, обученных на каждом слое, и использует новую архитектуру JumpReLU для повышения точности. Релиз направлен на ускорение исследований интерпретируемости, способствуя созданию более безопасных ИИ-систем.

0
7 мин
24 октября 2025 г.

Показаны все статьи (5)