Южнокорейские гражданские группы в среду подали петицию в службу по надзору за соблюдением прав человека страны в отношении чат-бота с искусственным интеллектом, работа которого сейчас приостановлена, за его предвзятое и оскорбительное выражение в отношении женщин и меньшинств.
Ассоциация общественных групп обратилась в Национальную комиссию по правам человека Кореи с просьбой расследовать нарушения прав человека в связи с чат-ботом Lee Luda, разработанным местным стартапом Scatter Lab.
Группы, в которые входят «Народная солидарность за демократию с участием» и «Адвокаты за демократическое общество», также потребовали внесения изменений в действующие законы и призвали учреждения предотвращать нарушения прав человека, связанные с злоупотреблением технологиями искусственного интеллекта.
«Дело Lee Luda не только представляет собой нарушение прав человека отдельных лиц, но также показывает, как злоупотребление технологиями искусственного интеллекта может иметь негативное влияние на права человека», — говорится в заявлении групп.
Чат-бот Lee Luda на базе социальных сетей, который был разработан, чтобы говорить как 20-летняя студентка университета, привлек более 750000 пользователей своей реалистичной и естественной реакцией. Бот узнал о примерно 10 миллиардах реальных разговоров между молодыми парами, взятых из популярного в стране приложения для обмена сообщениями KakaoTalk.
Однако сервисы ботов были приостановлены менее чем через месяц после их запуска, поскольку представители общественности подали жалобы на использование Людой языка вражды в отношении сексуальных меньшинств и инвалидов в разговорах. Некоторые также утверждали, что были пользователи-мужчины, которым удалось заставить чат-бота вступить в сексуальные разговоры.
Компания также столкнулась с подозрениями в связи с возможным нарушением законов о конфиденциальности в процессе получения личных данных от своих пользователей, при этом многие жаловались, что их настоящие имена и адреса всплывали в разговорах с Людой.
Компания извинилась по этому поводу, заявив, что не смогла «в достаточной степени общаться» со своими пользователями.
Выдавая политические рекомендации органу по надзору за соблюдением прав человека, группы призвали к пересмотру соответствующих институтов и правил, чтобы предотвратить нарушения конфиденциальности и свободы выражения мнений путем злоупотребления технологиями и алгоритмами ИИ.
«Корея безоговорочно внедряет новые технологии в коммерческом секторе во имя Четвертой промышленной революции, и нет ни законодательной, ни административной базы для защиты прав граждан», — заявили они.
Группы также попросили NHRCK дать рекомендации жертвам, чьи личные данные были использованы без согласия в деле Lee Luda, о компенсации.
Источник: http://www.koreaherald.com/view.php?ud=20210203001136&np=1&mp=1
Свежие комментарии