Проблема кастовой предвзятости в моделях OpenAI
Продукты OpenAI, включая ChatGPT, демонстрируют выраженную кастовую предвзятость, как показало расследование MIT Technology Review. Несмотря на то, что генеральный директор Сэм Олтман называл Индию вторым по величине рынком компании во время презентации GPT-5 в августе, обнаружено, что как эта новая модель, так и текстово-видео генератор Sora воспроизводят стереотипы, связанные с кастовой системой. Это рискует укрепить дискриминационные взгляды способами, которые в настоящее время остаются без внимания.
Смягчение кастовой предвзятости в ИИ-моделях становится как никогда актуальным. В современной Индии многие представители угнетённых каст, такие как далиты, смогли вырваться из бедности и стали врачами, государственными служащими и учёными; некоторые даже заняли пост президента страны. Однако ИИ-модели продолжают воспроизводить социально-экономические и профессиональные стереотипы, изображая далитов как грязных, бедных и выполняющих только неквалифицированную работу.
Технологии генерации видео и их challenges
Этот год стал знаковым для генерации видео с помощью ИИ. Обратной стороной является то, что создатели конкурируют с низкокачественным ИИ-контентом, а ленты социальных сетей заполняются фальшивыми новостными материалами. Генерация видео также потребляет огромное количество энергии, во много раз больше, чем генерация текста или изображений.
С повсеместным распространением ИИ-генерируемых видео, стоит разобраться в технологиях, которые делают их возможными. Это включает в себя сложные алгоритмы, которые преобразуют текстовые описания в последовательные визуальные сцены, но требуют значительных вычислительных мощностей.
Ключевые технологические новости дня
Тайвань отклонил требование США о переносе производства чипов
Тайвань отказался от запроса США переместить 50% производства чипов на американскую территорию. Тайвань заявил, что никогда не соглашался на такое обязательство, что может ослабить его «кремниевый щит».
Чат-боты пока не устраняют рабочие места
Новое исследование рынка труда не обнаружило существенных доказательств того, что чат-боты вытесняют людей с рабочих мест, что противоречит распространённым опасениям.
OpenAI выпустила новое приложение для генерации видео Sora
Это последняя попытка сделать ИИ социальным опытом, хотя правообладателям придётся запрашивать удаление своего контента.
Учёные впервые создали эмбрионы из клеток кожи человека
Это достижение может позволить людям с бесплодием и однополым парам иметь детей, а роботы меняют лицо науки о фертильности.
Элон Маск заявил о создании конкурента Wikipedia
Хотя это вызывает вопросы о точности и беспристрастности, как ИИ и Wikipedia влияют на уязвимые языки.
Возрождение американской индустрии чипов оказалось под угрозой
После отзыва финансирования из многомиллиардной инициативы, предназначенной для восстановления отрасли.
ICE хочет приобрести инструмент отслеживания местоположения телефонов
Даже без ордера на такие действия, что поднимает вопросы о приватности.
Проблемы масштабирования производства электромобилей
Твёрдотельные батареи считаются святым граалем, но их коммерциализация остаётся под вопросом, и bigger EVs не всегда лучше.
Робот для доставки еды DoorDash выходит на дороги Аризоны
Предыдущие попытки провалились, но Dot может добиться успеха.
Что значит предоставлять терапию через ChatGPT
Он очень хорош в том, чтобы говорить то, что, как ему кажется, вы хотите услышать, а терапевты тайно используют ChatGPT, что вызывает беспокойство у клиентов.
Цитата дня и дополнительные insights
«Пожалуйста, относитесь к взрослым как к взрослым.»
—Пользователь X angrily реагирует на действия OpenAI по ограничению тем, которые ChatGPT будет обсуждать.
Борьба Африки с голодом через возрождение традиционных культур
После десятилетий снижения, распространённость голода в мире снова растёт, особенно в странах Африки к югу от Сахары, из-за конфликтов, экономических последствий пандемии COVID-19 и экстремальных погодных явлений.
Местные культуры Африки часто более питательны и лучше приспособлены к жарким и засушливым условиям, которые становятся более распространёнными, но многие из них были neglected наукой, что делает их более уязвимыми к болезням и вредителям и снижает урожайность.
Теперь вопрос в том, смогут ли исследователи, правительства и фермеры работать вместе, чтобы эти культуры попали на тарелки и обеспечили африканцев необходимой энергией и питанием для процветания, несмотря на вызовы изменения климата.
Заключение
Исследования показывают, что технологии ИИ, такие как продукты OpenAI, не свободны от социальных предубеждений, что требует urgent внимания к ethics и bias mitigation. Одновременно, advancements в генерации видео открывают новые возможности, но сопровождаются значительными энергетическими затратами и challenges качества контента. Эти developments подчёркивают необходимость balanced подхода, сочетающего инновации с ответственностью, чтобы технологии служили обществу equitable и sustainable образом.