音声コンテンツを分析し、AIで有害なやりとりを特定‐Spectrum Labs

パンデミックから2年が経ち、オンライン会話は私たちの生活の一部になっているが、それらすべてが前向きで礼儀正しいものではない。企業は、顧客体験の抜本的な変革の一環としてオンラインコミュニティを構築し、顧客との直接的なデジタル接続を確立している。しかし、オープンフォーラムやプライベートチャットにおけるいじめやヘイトスピーチ、また消費者分野で行われる違法行為によって、これらのイニシアチブは汚染され、否定的になる場合がある。安全なオンラインコミュニティは収益性が高く、組織はコミュニティやブランドを保護して安全性を確率する責任がある。そこで、データとコミュニティの力を利用してインターネットへの信頼を再構築し、すべての人にとってより安全で価値のある場所にするべく、ある米国スタートアップが注目を浴びている。記事作成＝hackjpn

AIを使って文字と音声の両方の有害なやりとりを特定

Spectrum Labsは、リアルタイム(約20ミリ秒以下)で有毒性のある取引を検出してシャットダウンするための人工知能技術をプラットフォームプロバイダーに提供する。同社のAIベースのセーフティプラットフォームはあらゆる言語で40以上の有害な行動を特定し、企業のコンテンツモデレーションの取り組みを50％削減し、検出率を10倍に増加させることを可能にしている。

現在、ソーシャルネットワーキング会社PinterestとThe Meet Group、出会い系サイトGrindr、eラーニングプラットフォームUdemyなど、20以上の大きなプラットフォームで機能しているという。

同社の技術は自然言語に基づいており、テキストベースと音声ベースの両方の会話から即時に有害コンテンツを特定する。音声については、テキストに書き起こすのではなく音声として読まれ、有害なやり取りへの対応を大幅に早めることができる。

そのため、TwitterやClubhouseなどのサービスにも有効である。言語制限がなく、世界中で使用可能だ。CEOのJustin Davis（ジャスティン・デイビス）氏は、「技術的には数週間であらゆる言語をカバーできる」と述べている。

デジタル信頼を企業運営に構築するための戦略

今年2月には、Intel Capitalが主導したラウンドにて3,200万ドル（約37億円）を調達しており、以前の支援者であるWing Venture Capital、Greycroftも参加。Greycroftは2020年9月に同社の1,000万ドルのラウンドをリードし、現在は合計4,600万ドルを調達している。

今後は消費者と企業の両方の問題に対処するために、Intelga戦略的投資家として入ってくる計画だという。Intelのチップ設計とより緊密に連携し、動作速度をさらに向上させるという。

CEOのジャスティン氏は、マーケティングデータ技術のパイオニアであるKrux Digitalの主要なリーダーであり、トラスト＆セーフティ技術を企業運営に構築するべく創業をしている。

Intel Capitalの副社長兼シニアMDであるMark Rostick（マーク・ロスティック）氏は、「デジタルトラストと道徳的な運用が組織の差別化を図る重要な要素として考えられている今、トラスト＆セーフティ技術を企業運営に構築することに大きなチャンスがあると考えている」と述べている。

世界中の人々や企業に多くの安心をもたらす

大手インターネット企業の中には、毎年数十億ドルを人間のモデレーターや内部ツールに費やしているものもあるが、依然としてユーザーの期待に応えることができていない。同社はこれらの企業にとって重要な存在となり、業界のコラボレーションに焦点を当てている。コンテンツモデレーションに関しては、企業ごとに異なるニーズがあるため、同社は各業界のセーフティに合わせたカテゴリーを準備している。

例えば、ソーシャルプラットフォームではコミュニティ内で自傷行為が促進されることが少なくないため、同社はAIを用いて特定の専門知識と正確な行動識別モデルを作る。デートアプリは、人々をつなぐのに役立つ一方で、未成年ユーザーやセクシャルハラスメントの勧誘などの違法行為によって現代のロマンス経験を破壊する可能性がある。そこで出会い系アプリにAI搭載のコンテンツモデレーションツールを提供し、接続が繁栄する安全な環境を作成する。売春の勧誘も防ぐ可能性があるという。

ゲームプラットフォームでは、ヘイトスピーチをリアルタイムで識別し、複数のチャネルにわたる多言語サポートにより、ゲームの安全性を向上させている。世界が電子商取引に移行し続けるにつれて、ピアツーピア市場は詐欺、スパム、その他の有毒な行動からユーザーを守るのに苦労しており、脅威に迅速に対処することにより、市場がプラットフォームの信頼を維持するのに役立つ。

同社は会話中の有害性を検知するだけでなく、監査トレイルを提供することでより高い信頼性と安全性を届ける計画がある。「Spectrum Labsの自然言語理解技術は、信頼性の課題に取り組む世界中の企業を強化するコアプラットフォームとなる可能性を秘めていると確信しています」とジャスティン氏は述べる。

言語の制限はなく、どんな言語でも機能する同社のプラットフォームが、世界中の人々や企業により多くの安心をもたらしていくだろう。