TikTok、AIが生成したコンテンツにラベル付けする新機能を発表

昨今、TikTokでは多くのクリエイターが人工知能（AI）を活用して創造性を発揮しており、私たちは透明性と責任のあるコンテンツ制作のサポートをしたいと常に考えています。その一環として、クリエイターの皆さんに創造性を発揮いただくのと同時に、ユーザーの皆さんにTikTok上のコンテンツの文脈・背景を正しく伝えられるよう、私たちはAIメディアリテラシー向上のための投資を継続しています。

今週より、AIが生成したコンテンツに対してクリエイターの皆さんがラベル付けできる新機能を公開し、AIが生成したコンテンツに自動的にラベルを付けるテストも開始しました。

クリエイターにより創造性を発揮いただくために

AIはよりクリエイティブなコンテンツ制作を可能にする一方で、そのコンテンツがAIによって生成されたことを知らないと、ユーザーに誤解を与えてしまう可能性もあります。AIが生成したコンテンツにラベル付けをすることで、AI技術によって大幅に変更や修正が加えられたコンテンツを明示することが可能になります。

そのため、クリエイターの皆さんがAIが生成したコンテンツを投稿する際に、そのことを簡単にコミュニティに通知できる新機能を導入することを決定しました。

この新たなラベルを通じて、クリエイターはコンテンツを制作するために使用した技術を明示することができます。TikTokは、AIが生成または編集したTikTok上のコンテンツにこのラベルを適用することをクリエイターの皆さんに推奨します。

これにより、今年の3月に新たに導入したコミュニティ・ガイドラインの「合成および改変されたコンテンツ」に関するポリシーをさらに準拠しやすくなると考えています。本ポリシーでは、ユーザーが動画の文脈・背景を理解しやすくし、誤解を招くコンテンツの拡散を防ぐために、リアルな画像、音声、動画を含むAIが生成したコンテンツ（シンセティックメディア）にラベル付けをすることが必須となります。

この度、新たに導入したこのラベル（またはステッカーやキャプションを含む開示方法）を通じて上記の実現が可能になりました。

TikTokコミュニティの皆さんにすでに定着している認証バッジやブランドコンテンツラベルと同様に、この新たなラベルも、クリエイターやユーザーの皆さんがコンテンツを共有した際に、そのコンテンツの文脈・背景を理解するための機能の一つになることを目指しています。

AIが生成したコンテンツを自動的にラベル付けするテスト

今週より、AIが生成したコンテンツに自動的に「AI生成」とラベル付けをするテストを開始し、最終的にはAIが編集または作成したコンテンツを自動で検出し、適用できるようにする予定です。

また、AIを活用したTikTokの機能をより明確にするため、TikTokのすべてのAIエフェクトの名称に「AI」を付けるよう変更し、それぞれのエフェクトのラベルにも「AI」を追加しました。Effect Houseクリエイター向けのガイドラインでも同様に、クリエイターにAIを活用していることを明示いただくよう、更新しています。

このようなテストとアップデートの目標は、TikTokのエフェクトラベルのような既存のコンテンツ開示をより強く構築していくことです。AIが生成したコンテンツにラベル付けすることで、コミュニティの皆さんにそのようなコンテンツについての情報を提供し続け、明確でわかりやすく、かつ状況にあった表示方法を模索していきます。

専門家との連携

今回発表したラベル付けの機能を開発する際に、安全諮問委員会や、ユーザーが異なるタイプのAIラベルをどのように認識するかについて研究しているMITのDavid G. Rand博士など業界の専門家の皆さんと協力しました。Rand博士の研究が今回の「AI生成」ラベルのデザインの指針となっています。

AIが、いちプラットフォームだけでは解決できない複雑な問題を抱えていることを私たちは認識しながら、業界を超えた同業者、専門家、社会と緊密な連携を続けています。

今年2月に私たちは、AIの透明性と責任あるイノベーションのためのフレームワークである「Partnership on AI」の Responsible Practices for Synthetic Media に沿って活動することを宣言しました。8月には、非営利団体Digital Moment と共同で10代の皆さん向けに、「オンライン上のAIの進歩について」の意見交換会を開催しました。

また、AIが生成したコンテンツが様々なプラットフォーム間で再投稿される際に、それがAIが生成したコンテンツである旨を明示できるよう、コンテンツ自体に「AI生成」ラベルを埋め込むといった実証実験も検討しています。

進化するAIを使いこなすために

AIが生成するコンテンツは、私たちだけでなく私たちの業界にとってエキサイティングな機会であると同時に、新たな挑戦でもあります。AIの進化と共に、私たちもアプローチを進化させる必要があります。今回のような新機能を検証および評価し、進化し続けるAIが生成したコンテンツを安全に使いこなせるように、皆さんと協力しながら、改善を続け、アップデートを続けて参ります。