仲間の人間に不信感を抱いている人は、人工知能に大きな信頼を寄せている – Brain


最近発表された研究によると、人間に対する不信感は、オンラインのコンテンツをモデレートする人工知能の能力をより信頼するようになると予測しています。 調査結果は、ソーシャル メディアの AI ツールの設計者とユーザーの両方に実用的な意味があると研究者は述べています。

ペンシルベニア州立大学のメディア効果教授である S. Shyam Sundar 氏は、次のように述べています。 「私たちの分析に基づくと、これは、機械は正確で客観的であり、イデオロギー的偏見がないという考えをユーザーが呼び起こしているためと思われます。」

New Media & Society のジャーナルに掲載されたこの研究では、情報技術の経験豊富なユーザーである「パワー ユーザー」には逆の傾向があることもわかりました。 彼らは、機械には人間の言葉のニュアンスを検出する能力がないと考えているため、AI モデレーターをあまり信頼していませんでした。

この研究では、他者への不信感や電力使用量などの個人差が、ユーザーが AI ベースのコンテンツ モデレーション システムに直面したときに、マシンのポジティブな特性とネガティブな特性のどちらを呼び出すかを予測し、最終的にはシステムに対する信頼に影響することを発見しました。 研究者は、個人の違いに基づいてインターフェースをパーソナライズすることで、ユーザー エクスペリエンスを改善できることを示唆しています。 この研究におけるコンテンツのモデレーションのタイプには、ヘイトスピーチや自殺念慮などの問題のあるコンテンツがないかソーシャルメディアの投稿を監視することが含まれます。

「コンテンツ モデレーション テクノロジーを信頼することを躊躇する人がいる理由の 1 つは、私たちがオンラインで自由に意見を表明することに慣れているためです。コンテンツ モデレーションによって、それが奪われてしまうのではないかと感じています」ミシガン州立大学でコミュニケーション アーツ アンド サイエンスの博士号を取得し、この論文の最初の著者でもあります。 「この研究は、コンテンツのモデレートに関して AI に対して否定的なステレオタイプを持っている人々にとって、決定を下す際に人間の関与を強化することが重要であることを示唆することにより、その問題の解決策を提供する可能性があります。一方、機械に対して肯定的なステレオタイプを持つ人々にとっては、 AIの精度などの要素を強調することで、マシンの強みを強化することができます。」

この調査では、保守的な政治イデオロギーを持つユーザーは、AI を活用したモデレーションを信頼する可能性が高いこともわかりました。 Molina と共著者の Sundar は、ペンシルベニア州立大学のメディア効果研究所の共同責任者でもあり、これは主流のメディアやソーシャル メディア企業に対する不信感に起因する可能性があると述べています。

研究者は、米国から 676 人の参加者を募集しました。 参加者は、開発中のコンテンツ モデレート システムのテストを手伝っていると言われました。 彼らはヘイトスピーチと自殺念慮の定義を与えられ、続いて4つの異なるソーシャルメディアの投稿の1つが続きました. 投稿は、これらの定義に適合するためにフラグが付けられているか、フラグが付けられていません。 参加者は、投稿にフラグを立てるかどうかの決定が AI、人間、またはその両方によって行われたかどうかも知らされました。

デモンストレーションに続いて、参加者の個人差について質問するアンケートが行われました。 違いには、他人を信用しない傾向、政治的イデオロギー、テクノロジーの経験、AI への信頼などがあります。

「私たちは、誤報からヘイトスピーチまで、非常に多くの問題のあるコンテンツにさらされています」とモリーナは言いました。 「しかし、最終的には、個人差に左右されるのではなく、技術の実際の属性に基づいて、ユーザーが AI に対する信頼をどのように調整できるかということです。」

Molina と Sundar は、彼らの結果が将来の AI の受け入れを形作るのに役立つかもしれないと言います。 ユーザーに合わせてカスタマイズされたシステムを作成することで、設計者は懐疑論や不信感を軽減し、AI への適切な信頼を築くことができます。

ペンシルベニア州立大学社会的責任人工知能センターの所長でもある Sundar 氏は、次のように述べています。 「AIテクノロジーを過度に信頼する傾向のある特定説(推定)の人々のグループは、その限界に注意を払う必要があり、コンテンツを管理する能力を信じていない人々は、プロセスへの人間の関与の程度について十分に知らされるべきです.」

ストーリーソース:

ペンシルベニア州立大学提供の資料。 ジョナサン・マクベリーによるオリジナル。 注: コンテンツは、スタイルと長さのために編集される場合があります。



Source link