Страховщики опасаются рисков от ИИ
Что произойдёт, если программное обеспечение, которое все спешат внедрять, окажется слишком опасным для страхования? Как сообщается в материалах Financial Times, скоро мы это узнаем.
Крупные страховые компании, такие как AIG, Great American и WR Berkley, обратились к регуляторам США с просьбой разрешить исключение из корпоративных полисов всех обязательств, связанных с ИИ. Один из специалистов по андеррайтингу назвал результаты работы ИИ-моделей для Financial Times настоящим «чёрным ящиком».
Реальные случаи, вызывающие тревогу
У страховой отрасли есть все основания для беспокойства, подчёркивает материал. Обзор ИИ от Google ложно обвинил компанию по производству солнечных панелей в юридических проблемах, что привело к иску на 110 миллионов долларов в марте. В прошлом году Air Canada вынуждена была предоставить скидку, которую придумал её чатбот. А мошенники использовали цифровую копию старшего руководителя, чтобы похитить 25 миллионов долларов у лондонской инженерной фирмы Arup во время видеозвонка, который выглядел абсолютно правдоподобно.
Системные угрозы пугают больше всего
Страховщиков не так страшит единичная крупная выплата, как возможность массовых претензий от тысяч пользователей одновременно, если популярная ИИ-модель допустит ошибку. Как отметил один из руководителей Aon, компаниям по страхованию под силу покрыть убытки в 400 миллионов долларов для одной фирмы. Но они не справятся с ситуацией, когда сбой в автономном ИИ приведёт сразу к 10 тысячам подобных потерь.