裁判記録が、TikTokで報告された子どもの安全をめぐる問題に新たな光を当てている。NPRが詳しく報じた証言によると、複数の従業員が、子どもの搾取を含む子どもの安全に関する同社の対応における深刻な欠陥を繰り返し指摘していたが、TikTokの対応には「不満」を抱いていたという。これらの記録は、同社の子どもの安全対策をめぐって進行中の訴訟から得られたものだ。TikTokはこうした訴訟を数百件抱えており、中毒性のあるアプリとして設計されたと主張する訴訟を含め、一部の案件では和解に応じている。
同社の従業員の証言によると、TikTokの幹部は、ライブ配信に未成年が定期的に登場していることを知らされており、グルーミングや搾取の恐れが懸念されていたという。2022年にForbesが、アプリ内で視聴者が「ギフト」の購入によって支払いができるTikTok Liveで未成年者が服を脱ぐ様子を報じた後、安全担当の従業員は、会社がそうしたコンテンツを把握していたと述べた。従業員はまた、TikTokの規則では未成年者の出演が禁止されていたにもかかわらず、子どもが出演するライブ配信から同社が「多大な収益」を得ていることに警鐘を鳴らしていた。
ほかの従業員は、同社の保護者向け機能や年齢に基づく安全機能の不備を指摘した。「抜け穴」により、未成年者はFacebook、Instagram、Googleのアカウントで登録すると年齢確認を回避でき、「隠れたリンク」によって、十代の利用者が「ファミリーペアリング」機能から自ら外れることができたという。TikTokはコメントの要請に即座に応じず、同社はNPRに対して公式な声明を提供しなかった。
NPRはまた、TikTokの元安全責任者であるEric Hanが作成した報告書にも言及している。この報告書は、自殺に関する投稿など有害なコンテンツを繰り返し推奨するアルゴリズムの「ラビットホール」のリスクについてまとめたものだ。2020年頃のものとみられるこの報告書は、こうしたコンテンツには「真の伝染効果」があると述べていた。TikTokはまた、2021年に導入され、利用者が「反復的なパターン」のコンテンツを避けられるよう支援することを目的とした機能についても精査を受けている。報道によれば、同社はこの機能を、テストとみられる形で数百万人の利用者に提供しなかった。ニューヨーク州司法長官が提起した訴訟で明らかになった文書によると、この実験に参加していた十代の少年が、自傷行為に関する繰り返し表示されるコンテンツを見た後に自ら命を絶ったという。
出典: Engadget · 要約：HeadlinesBriefing