Под пристальным вниманием активистов и родителей, OpenAI сформировала новую команду для изучения и предотвращения неправильного использования или злоупотребления искусственного интеллекта детьми. Об этом сообщает TechCrunch, пишет УНН.
Детали
В новом списке вакансий на своей странице OpenAI раскрывает существование группы безопасности детей, которая, по словам компании, работает с политикой платформы, юридическими группами и группами расследований, а также с внешними партнерами, чтобы управлять "процессами, инцидентами и проверками", касающимися несовершеннолетних пользователей.
Отмечается, что команда ищет специалиста по безопасности детей, который будет отвечать за соблюдение политики OpenAI в отношении контента, созданного с помощью ИИ, и будет работать над процессами проверки, связанными с "конфиденциальным" контентом.
Разработчики выделяют значительные ресурсы на соблюдение таких законов, как Закон США о защите конфиденциальности детей в Интернете, который устанавливает контроль над тем, к чему дети могут и не могут получить доступ, а также какие компании могут собирать о них данные. Поэтому тот факт, что OpenAI нанимает экспертов по безопасности детей, не является сюрпризом, особенно если компания ожидает, что появится значительная база несовершеннолетних пользователей. (Текущие условия использования OpenAI требуют согласия родителей для детей в возрасте от 13 до 18 лет и запрещают использование детьми в возрасте до 13 лет)
Дополнение
Дети и подростки все чаще обращаются к инструментам GenAI за помощью не только по поводу школьного домашнего задания, но и по личным делам. Согласно опросу общественного мнения по данным Центра демократии и технологий, 29% детей сообщают, что используют ChatGPT для борьбы со стрессом или проблемами психического здоровья, 22% - для проблем с друзьями и 16% - для решения семейных конфликтов.