Новости и статьи об искусственном интеллекте и нейросетях. Мы собираем и обрабатываем самую актуальную информацию из мира AI. О проекте
Основатель Mistral Артур Менш предупредил, что проприетарные ИИ-модели позволяют их создателям получать доступ к внутренним процессам клиентов. Он призывает бизнес переходить на открытые решения и строить собственные модели. Эксперимент Bridgewater и Thinking Machines Lab подтвердил, что дообученные открытые модели могут превосходить флагманские системы по точности при меньших затратах.
Мередит Уиттакер, президент Signal, в интервью Bloomberg напомнила, что ИИ-чат-боты не являются друзьями или сознательными собеседниками. Она также раскритиковала сценарий Microsoft Copilot для рождественских покупок, назвав его потенциальным бэкдором для конфиденциальных данных пользователей.
Google подала в суд на китайскую кибергруппировку Outsider Enterprise, которая с помощью ИИ создала более миллиона фишинговых сайтов. Преступники похитили данные сотен тысяч жертв, а ущерб от кражи кредитных карт может достигать 1,9 миллиарда долларов.
OpenAI открыла Privacy Filter — компактную модель для поиска и скрытия персональных данных в тексте, с 1,5 млрд параметров и локальным запуском. Она маркирует восемь категорий PII в длинных документах и позволяет настройку точности. Разработчики предупреждают об ограничениях и необходимости человеческого контроля в чувствительных областях.
Проект World Сэма Альтмана расширяет верификацию людей на Tinder глобально после пилота в Японии, вводя значок World ID в профилях. Добавлены Concert Kit для билетов, интеграции с Zoom и Docusign, плюс инструменты для ИИ-агентов через Okta. Уровни проверки от Orb до селфи упрощают процесс, сохраняя анонимность с zero-knowledge proofs.
SoftBank объединяет восемь японских корпораций, включая NEC, Honda и Sony, для разработки базовой модели Physical AI с триллионом параметров. Это поможет защитить чувствительные промышленные данные от утечек за рубеж и уменьшить зависимость от иностранных разработок. Государство выделит на проект до 1 трлн йен.
OpenAI добавила в ChatGPT интеграции с сервисами вроде DoorDash, Spotify, Uber, Booking.com и другими для прямого выполнения задач из чата. Пользователи подключают аккаунты через настройки или промты, но должны учитывать передачу данных. Доступно в США и Канаде, с планами на новые партнеры в 2026 году.
Компания Micro1 нанимает тысячи фрилансеров в 50+ странах для записи видео бытовых дел, которые обучают гуманоидных роботов манипулировать предметами. Работа приносит хороший доход локально, но вызывает вопросы приватности, согласия и качества данных. В 2025 году инвесторы вложили свыше 6 млрд долларов в такие роботы, спрос на данные превышает 100 млн долларов ежегодно.
Proton представила обновление своего чат-бота Lumo с фокусом на конфиденциальность. Версия 2.0 получила распознавание и генерацию изображений, постоянную память в проектах и ускорение до 76%. Благодаря сквозному шифрованию и отсутствию логов пользовательские данные остаются защищёнными.
Pixi запустила приложение для iOS, которое через iMessage отправляет AI-управляемых AR-персонажей. Они оживают через камеру iPhone и реагируют на происходящее в реальном времени. Обработка данных происходит на устройстве, а в будущем планируется маркетплейс персонажей и расширение на Android.
Clarifai удалила 3 миллиона фото от OkCupid, использованных для обучения ИИ распознавания лиц, после расследования FTC. Данные передали в 2014 году вопреки политике конфиденциальности, расследование запустила статья NYT в 2019-м. FTC заключила соглашение с OkCupid и Match Group, запретив misrepresentation данных.
YouTube расширяет технологию likeness detection на индустрию развлечений: теперь звёзды и агентства вроде CAA, UTA, WME могут защищать облик от ИИ-дипфейков. Система похожа на Content ID, сканирует видео без нужды в канале и планирует добавить аудио; поддерживают NO FAKES Act.
Государственный сектор активно интересуется ИИ, но ограничения по безопасности и инфраструктуре тормозят внедрение: 79% руководителей беспокоятся о данных. Малые языковые модели SLM решают проблемы, работая локально, обеспечивая контроль и эффективность, как показывают исследования и прогноз Gartner. Они улучшают поиск, анализ данных и операции без облака.
Apple и Qualcomm разрабатывают ИИ-агентов с контрольными точками: перед платежами или изменениями аккаунта требуется подтверждение пользователя. Ограничения доступа к приложениям и локальное хранение данных усиливают приватность и снижают риски. Подход фокусируется на управляемой автономии, чтобы избежать финансовых потерь и утечек.
Статья описывает пять ключевых практик защиты ИИ-систем: от контроля доступа и шифрования до мониторинга и планов реагирования. OWASP выделяет инъекцию промптов как главную уязвимость LLM, а NIST настаивает на полной видимости. Рекомендуются провайдеры Darktrace, Vectra AI и CrowdStrike для реализации.
Ring запускает магазин приложений для своих камер, чтобы выйти за рамки домашней охраны с помощью ИИ. Партнеры предлагают решения для ухода за пожилыми, анализа очередей и мониторинга аренды, но запрещены функции вроде распознавания лиц. На старте 15 приложений, комиссия Ring — 10%, цель — сотни в разных сферах.