галлюцинации

36 публикаций по теме

галлюцинации

Генеративный ИИ в моделировании катастроф: точность, галлюцинации и бизнес-интересы

Статья о применении генеративного ИИ в моделировании природных катастроф: диффузионные модели создают множество сценариев для более точной оценки рисков, но сталкиваются с проблемой галлюцинаций и противоречием интересам страховщиков, которые предпочитают заниженные оценки убытков.

2 мин

26 июня 2026 г.

Новости

KPMG сфабриковала ИИ-кейсы: UBS и NHS опровергают

KPMG включила в отчёт о будущем ИИ вымышленные кейсы об использовании технологии в UBS, NHS и других организациях. GPTZero обнаружил ошибки, Financial Times их подтвердил — компании опровергли заявления. Инцидент показал опасность «вторичных галлюцинаций» от авторитетных отчётов и проблемы «vibe citing» в AI-поиске.

1 мин

16 июня 2026 г.

Новости

ChatGPT увлёкся гоблинами: это раскрывает риски ИИ-обучения

OpenAI разобралась, почему с GPT-5.1 модели ChatGPT стали часто вставлять гоблинов в ответы: сбой в поощрении при дообучении 'Nerdy' личности вызвал 175-процентный рост упоминаний. Привычка распространилась на другие режимы через обратную связь, компания устранила дефект и добавила запреты. Случай подчёркивает риски непредвиденных эффектов от мелких изменений в обучении.

2 мин

1 мая 2026 г.

Новости

GPT-5.5 лидирует в бенчмарках ИИ, но галлюцинирует чаще и стоит на 20% дороже

GPT-5.5 возглавила Intelligence Index Artificial Analysis с 60 очками, опередив Claude Opus 4.7 и Gemini 3.1 Pro Preview на три пункта. Удвоение цены API смягчено экономией 40% токенов, итого рост на 20%, но галлюцинаций стало 86% — хуже конкурентов. Бенчмарки хвалят цену-производительность, однако в программировании и галлюцинациях модель не без изъянов.

3 мин

25 апреля 2026 г.

Статьи

7 шагов к освоению RAG-систем

Системы RAG развивают LLM, устраняя галлюцинации и проблемы с актуальными знаниями. Статья разбирает семь шагов: от очистки данных и разбиения на чанки до векторизации, хранения, извлечения контекста и генерации ответов. Это позволяет создавать надежные ИИ-приложения на свежих данных.

7 мин

7 апреля 2026 г.

Новости

ИИ-модели уверенно описывают изображения, которых не видели, бенчмарки этого не замечают

Фронтирные ИИ-модели уверенно описывают несуществующие изображения в 60–100% случаев, достигая 70–80% баллов бенчмарков без визуала. Текстовая модель на 3 млрд параметров обошла мультимодалки и радиологов, а метод B-Clean выявил утечки в тестах. Это подрывает доверие к визуальным претензиям ИИ и требует новых подходов к оценке.

9 мин

30 марта 2026 г.

Новости

Википедия запретила ИИ для генерации текстов статей

Википедия запретила редакторам генерировать или перерабатывать контент статей с помощью больших языковых моделей. Изменение политики одобрили 40 голосами против 2. ИИ разрешают использовать только для базовых правок собственного текста после человеческой проверки.

2 мин

27 марта 2026 г.

Новости

Энциклопедия Britannica судится с OpenAI

Encyclopedia Britannica и Merriam-Webster подали иск против OpenAI за использование почти 100 000 статей в обучении ИИ без разрешения, а также за копирование контента в ответах и галлюцинации. Это часть волны судебных дел от издателей вроде New York Times и газет США и Канады. Прецедентов по обучению моделей на защищенных данных мало, но пример Anthropic показывает риски.

2 мин

17 марта 2026 г.

Новости

Суд Берлина: ИИ-обзоры Google — лишь формат поиска, не контент

Два немецких суда вынесли противоположные вердикты об ответственности Google за ИИ-обзоры. Берлин счёл их лишь новым форматом поиска, не нарушающим закон, а Мюнхен возложил на компанию прямую ответственность за ложные утверждения ИИ. Противоречие может серьёзно повлиять на развитие ИИ-поиска.

2 мин

18 июня 2026 г.

Новости

KPMG отозвала отчет об ИИ из-за галлюцинаций нейросети

KPMG пришлось удалить отчет об агентном ИИ после того, как в нем обнаружились вымышленные данные о клиентах. Причиной стали галлюцинации нейросети, которую использовали при подготовке документа.

1 мин

15 июня 2026 г.

Новости

Инструмент Silico от Goodfire для отладки языковых моделей

Goodfire представила Silico — платформу механистической интерпретируемости для LLM. Инструмент автоматизирует анализ нейронов, помогает исправлять галлюцинации, этические сбои и ошибки вроде сравнения 9.11 с 9.9. Это позволит малым командам создавать надежные модели без проб и ошибок.

4 мин

30 апреля 2026 г.

Статьи

От LLM до галлюцинаций: гид по терминам ИИ

Глоссарий разбирает ключевые термины ИИ от AGI и LLM до галлюцинаций и весов. Объяснения охватывают определения, примеры и связи понятий вроде цепочки мыслей, дистилляции, диффузии. Материал помогает ориентироваться в новостях ИИ, сохраняя все технические детали.

12 мин

12 апреля 2026 г.

Новости

The New York Times разорвала связи с фрилансером из-за плагиата ИИ

The New York Times прекратила работу с фрилансером Алексом Престоном: его ИИ-инструмент заимствовал текст рецензии The Guardian на роман Watching Over Her. Престон не заметил плагиата и сдал материал. В Ars Technica редактор опубликовал вымышленные цитаты ChatGPT из недоступного блога.

1 мин

5 апреля 2026 г.

Новости

Seoul World Model от Naver использует Street View против галлюцинаций ИИ

Naver разработала Seoul World Model — видео-модель на базе 1,2 млн панорам Street View Сеула, которая генерирует реалистичные видео по реальным маршрутам без вымысла. Она решает проблемы с временными объектами, пробелами в данных и накоплением ошибок, обобщаясь на другие города вроде Пусана и Энн-Арбора. Модель превосходит конкурентов и открывает применение в автономном вождении и урбанистике.

8 мин

29 марта 2026 г.

Статьи

7 способов уменьшить галлюцинации в продакшен-LLM

Галлюцинации в LLM решают как системную задачу семью методами: от RAG и обязательных цитат до инструментов, верификации и мониторинга. Подходы опираются на данные, проверки и отказы, повышая надежность приложений. Непрерывная оценка предотвращает регресс качества.

5 мин

18 марта 2026 г.

Новости

Фальшивые ссылки проходят рецензию на топовых ИИ-конференциях: CiteAudit их ловит

Статьи на топовых ИИ-конференциях содержат галлюцинированные цитаты, обходящие рецензию. CiteAudit предлагает открытый бенчмарк из 6475 реальных и 2967 фейковых ссылок, где пять ИИ-агентов достигают 97,2% точности на практике. Инструмент работает локально, бесплатно доступен онлайн и превосходит коммерческие модели.

5 мин

8 марта 2026 г.

галлюцинации

Генеративный ИИ в моделировании катастроф: точность, галлюцинации и бизнес-интересы

KPMG сфабриковала ИИ-кейсы: UBS и NHS опровергают

ChatGPT увлёкся гоблинами: это раскрывает риски ИИ-обучения

GPT-5.5 лидирует в бенчмарках ИИ, но галлюцинирует чаще и стоит на 20% дороже

7 шагов к освоению RAG-систем

ИИ-модели уверенно описывают изображения, которых не видели, бенчмарки этого не замечают

Википедия запретила ИИ для генерации текстов статей

Энциклопедия Britannica судится с OpenAI

Суд Берлина: ИИ-обзоры Google — лишь формат поиска, не контент

KPMG отозвала отчет об ИИ из-за галлюцинаций нейросети

Инструмент Silico от Goodfire для отладки языковых моделей

От LLM до галлюцинаций: гид по терминам ИИ

The New York Times разорвала связи с фрилансером из-за плагиата ИИ

Seoul World Model от Naver использует Street View против галлюцинаций ИИ

7 способов уменьшить галлюцинации в продакшен-LLM

Фальшивые ссылки проходят рецензию на топовых ИИ-конференциях: CiteAudit их ловит

Сейчас в тренде

Популярные темы