Очки Meta AI предположительно передают интимные видео модераторам-людям

Пользователи умных очков Meta с искусственным интеллектом в Европе, возможно, непреднамеренно делятся интимными видеозаписями и конфиденциальной финансовой информацией с модераторами, находящимися за пределами Европейского союза. Об этом на прошлой неделе сообщил шведский издание Svenska Dagbladet. Сотрудники в Кении, занимающиеся "аннотацией" данных для ИИ, рассказали журналистам, что видели людей в обнаженном виде, пользующихся туалетом и занимающихся сексом, а также номера кредитных карт и другую чувствительную информацию.

Очки Meta, такие как Ray-Ban Display, и другие модели с функциями ИИ позволяют пользователям записывать то, что они видят, или получать ответы на вопросы через помощника Meta AI. Однако для использования этих ИИ-функций пользователь должен согласиться с условиями обслуживания Meta, которые разрешают просмотр любых захваченных данных людьми. Это связано с тем, что большие языковые модели Meta (LLM) часто требуют аннотации визуальных данных людьми, чтобы ИИ мог их понимать и использовать для обучения своих моделей.

Эти данные могут попадать в такие места, как Найроби, Кения, где их часто модерируют низкооплачиваемые сотрудники. Согласно юристу по защите данных, процитированному в отчете, такие действия подпадают под действие правил GDPR Европы, требующих прозрачности в обработке персональных данных.

Тем не менее, журналисты Svenska Dagbladet сообщили, что им пришлось приложить немало усилий, чтобы ознакомиться с политикой конфиденциальности Meta для носимых устройств. Эта политика гласит, что конфиденциальные данные могут просматриваться как людьми, так и автоматизированными системами, и возлагает ответственность на пользователя за то, чтобы не делиться чувствительной информацией.

Meta отказалась от прямых комментариев по этой истории, лишь заявив, что "при использовании ИИ в реальном времени мы обрабатываем этот контент в соответствии с Условиями обслуживания и Политикой конфиденциальности Meta AI".