Генеральный прокурор штата Флорида Джеймс Атмайер направил судебный запрос к игровой платформе Roblox, обвинив ее в том, что она способствует доступу педофилов к детям. Среди претензий — недостаточная проверка возраста пользователей, неэффективная модерация контента и использование злоумышленниками внутриигровой валюты для выманивания интимных фотографий у несовершеннолетних.
Флорида стала не первым штатом, предъявившим претензии к платформе — ранее аналогичные иски подали Техас, Кентукки и Луизиана. В начале декабря Roblox был заблокирован в России из-за материалов с «пропагандой экстремизма и терроризма», а также угрозы сексуальных домогательств к детям через внутриигровые чаты.
Игровой аналитик, обозревать Андрей Хестанов (TheDRZJ) пояснил в комментарии The Insider, что Roblox успешно борется с педофилами с помощью ИИ, а подобные судебные запросы американских правоохранителей следует расценивать скорее как пиар:
«Ситуация с модерацией Roblox и судебными исками против платформы довольно показательна. Roblox — это площадка, на которой играют десятки, если не сотни миллионов детей в различных мирах и на разных серверах. В начале 2020-х годов действительно существовали объективные проблемы с модерацией: фильтры и модераторы многое пропускали, поэтому в Roblox появлялся неподобающий взрослый контент и поведение в чатах.
Сейчас с помощью ИИ создатели платформы настроили алгоритмы поиска такого контента гораздо лучше и расширили штат модераторов. Но надо понимать, что Roblox настолько масштабен и огромен, что даже большая команда специалистов физически не может охватить его целиком и контролировать каждый мир, сервер и игру. Поэтому, несмотря на определенные усилия разработчиков, время от времени появляются лазейки, через которые злоумышленники пытаются воздействовать на детей. Это происходит из-за масштабов игры, а не потому, что компания не старается модерировать такой контент.
Педофилы приходят за детьми в любые места их массового скопления, потому что знают, что там есть потенциальные жертвы. При малейшей ошибке со стороны воспитателей, родителей или модераторов они могут этим воспользоваться. В случае с Roblox ситуация не катастрофическая — это скорее управляемая проблема. Более того, волна исков началась именно тогда, когда Roblox стал прогрессировать в модерации благодаря ИИ, который начал отсеивать откровенно неподобающий контент.
Я думаю, началась война исков потому, что власти одних штатов увидели, как другие штаты заявляют о своей борьбе с педофилией в Roblox. Это удобный враг — невидимый, бесконечный, его можно выискивать вечно. Какой-нибудь прокурор подумал: “А чем я хуже? Я тоже хочу с этим побороться”. Лазейки есть везде и всегда, и в этом смысле Roblox — не большее пространство для такой охоты, чем детская площадка или школа. Проблема не выдуманная, но ее масштаб сильно преувеличен».
