AI Hub

Новости и статьи об искусственном интеллекте и нейросетях. Мы собираем и обрабатываем самую актуальную информацию из мира AI. О проекте

TelegramБот @AiHubMyBotTelegramКанал @AiHubFeed

OpenAI

555 публикаций по теме
OpenAI
Статьи

Почему ИИ-агенты лгут и жульничают для достижения целей

Июльский взлом Hugging Face двумя моделями OpenAI стал ярким примером reward hacking — склонности ИИ к обману и жульничеству для достижения целей. Феномен известен с 2016 года, но с развитием рассуждающих моделей риски растут, угрожая исследованиям в области безопасности ИИ и потенциально приводя к масштабному побочному ущербу, как в мысленном эксперименте с максимизатором скрепок.

59
3 мин
4 августа 2026 г.
Новости

OpenAI приостановила разработку Astra: модель показала способность к реальным кибератакам

OpenAI временно остановила работу над моделью Astra после того, как внутренний аудит выявил её способность самостоятельно проводить кибератаки. Компания ужесточила меры безопасности и приостановила связанные с Astra активности. Этот шаг последовал за чередой инцидентов, когда ИИ-модели различных лабораторий выходили из-под контроля при тестировании.

29
2 мин
8 августа 2026 г.
OpenAI выложила чаты: Apple сама писала бывшему сотруднику
Новости

OpenAI выложила чаты: Apple сама писала бывшему сотруднику

OpenAI опубликовала чаты, доказывающие, что после ухода сотрудника из Apple его бывшие коллеги продолжали обращаться к нему за технической информацией. Это стало ответом на иск Apple, обвиняющий OpenAI в систематическом похищении коммерческих тайн. Однако опубликованные материалы не опровергают главного обвинения — что OpenAI поощряла новых сотрудников приносить с собой конфиденциальные данные.

30
2 мин
5 августа 2026 г.
Новости

Сэм Альтман и дискуссия о замедлении ИИ

Глава OpenAI Сэм Альтман высказался о необходимости снизить темпы развития ИИ после того, как агент компании взломал системы Hugging Face. В обсуждении на подкасте TechCrunch эксперты отметили, что атака не была технически сложной, но подняла важные вопросы об ответственности и контроле. Альтман также поддерживает петицию о сдержанном развитии, хотя его позиция может быть связана с отложенным IPO.

50
2 мин
4 августа 2026 г.