2025年12月8日
4 分で読める
36回閲覧
4 分で読める

GJW 倫理的AI:あらゆる世代に「依存性のない」オンライン体験を提供する Gan Jing World の取り組み

Gan Jing Worldでは、テクノロジーは人々に奉仕するものであり、人々を支配するべきではないと考えています。オンライン依存や子どものメンタルヘルス、有害コンテンツの影響について社会や規制当局の懸念が高まるデジタル社会において、多くのオンラインプラットフォームはユーザーを惹きつけ続けるアルゴリズムを設計しています。Gan Jing Worldの使命は、人々の間に「やさしさ」「敬意」「信頼」を育むことです。

人間のためのテクノロジーを追求する中で、Gan Jing World の革新的な「Ethical AI(倫理的AI)」技術は、動画・画像・テキスト・音声における不適切なコンテンツを測定する高度なディープラーニングモデルを備えています。これらのコンテンツ・インテリジェンス・モジュールは連携して有害なコンテンツを効果的にフィルタリングし、やさしさや心の健全性を促進するコンテンツを優先的に表示することで、サイバーブリングの防止にも役立ちます。

 

「子ども向けにコンテンツを厳選し、暴力やわいせつな内容を取り除いてくれる Gan Jing World にとても感謝しています。…必要としていた“安心”を与えてくれました。」

— ヴィクトリア・クリシュナ(保護者)

 

コンテンツ・インテリジェンス・モジュール:

1. 動画品質評価(Video Quality Rating)

VQR インテリジェンスモジュールは、動画やサムネイルの画像品質および美的要素を評価します。コンテンツは 0〜5 の尺度で採点され、適切性のレベルを判定します。

動画サムネイルに対する AI 生成の評価(0〜5 の尺度)

 

2. 不適切コンテンツ検出(Inappropriate Content Detection)— 正確性 90% 以上

ICD モジュールは、動画のサムネイルやフレーム内の不適切なコンテンツを検出し、90%を超える精度を実現しています。不適切なコンテンツは、以下の4つの主要カテゴリに分類されます。

「性的な示唆を含むコンテンツ」「有害な薬物」「暴力」「恐怖を与えるコンテンツ」

ICD モジュールのサンプル出力で、子どもに不適切なコンテンツが赤で表示されています。

 

「他のソーシャルメディアで “beautiful ladies” を検索したときと、Gan Jing World で検索したときの違いは、まさに天と地です。片方では、非現実的なボディイメージや、大人にとっても露骨すぎる内容が表示されます。でも GJW では、とてもクリーンです。本当の美しさ——人々が心を動かす、前向きな行動をしている姿が見られます。親として、選ぶべきものは明らかです。子どもたちにとって一番良い環境を選びたいのです。」

— ベン・W.(保護者)


 

3. テキスト分析(Textual Insights)

Textual Insights は、構造化されていないテキストから、文のトーン・感情・センチメントを識別し、さらには実世界のエンティティ(固有名詞など)も認識します。このインテリジェンスモジュールは多言語に対応しており、結果は未成年に不適切な悪質な言葉をラベル付けする際に利用されます。

 

- 多言語検出

- センチメント・感情分析

テキストにおける感情およびセンチメント認識を示しています。ポジティブ(緑)、ミックス(ピーチ)、ネガティブ(赤)のセンチメントも検出されます。

 

Gan Jing World ― すべての人にとって安全なオンラインプラットフォーム

次世代のために安全なデジタル環境をつくることは、Gan Jing World が創設当初から大切にしてきた理念です。当社は、独自の技術と AI モデルを用いて、むやみに暴力的・犯罪的・有害な行動を含まない、健全で前向きなコンテンツに満ちた、活気あるデジタルコミュニティを実現することを使命として設計・構築しています。

 

「Gan Jing World は、世界がもっと知るべき非常に重要な存在です。多くのソーシャルプラットフォームに悪が蔓延している中、Gan Jing は明らかに“心”からつくられたものであり……ソーシャルメディアを浄化し、清らかで健全で、家族向けの選択肢を取り戻すための一歩なのです。ここは、自分のメッセージを世界に届ける場所であり、子どもたちが成長し、健やかでいられるような、良質で清らかな娯楽や教育を得られる場所です。世界の悪に染まらずに済む場所なのです。」

— サリー・チェトウィンド(作家)