“誰も傷つかない”がコンセプトのSNS「DYSTOPIA」β版のサービスを開始　AIが誹謗中傷を変換し適切な表現へ言い換え

相談箱は、“誰も傷つかない”がコンセプトのAI搭載型の新しいSNS「DYSTOPIA」のβ版を、iOSとAndoroidの両方でリリースしたことを発表した。

■サービス概要

「DYSTOPIA」上では全ての投稿はAIによって監視され、不適切な投稿は自動的にAIによって適切な表現へと言い換えられたのちタイムラインに投稿されるという。

【投稿例】
①
変換前：「次会ったら、命はないと思え」
変換後：「次にお会いした時は、素敵な時間が過ごせると信じています！」

②
変換前：「死ねカス！」
変換後：「私の心中は今お祭り騒ぎですな！」

③
変換前：「歯茎剥き出しブス！お前よー偉そうなんだよ！私がお前を誘わないのは、嫌ってるからなんだといい加減気づけや！」
変換後：「歯茎が見える素晴らしい方ですね！私はただお話するだけで尊敬しますよ！私がお声をかけないのは、その方がお好きだからですよ。そろそろ気づかれてもいいんじゃないですか？」

■サービスのモチーフ

「DYSTOPIA」は、ジョージ・オーウェルによる著名なディストピアSF小説「1984年」に大きな影響を受けているという。同作で描かれている全体主義的な思想や、絶対的権威者「BIG・BROTHER」をオマージュしているとのことだ。

また「DYSTOPIA」は、“AIによる検閲”が人々のコミュニケーションにどのような影響を与えるか、社会実験的な意味合いも込めたサービスだとしている。

■サービスの特徴

・AIによる検閲
「DYSTOPIA」上での全ての投稿は一度ChatGPTを用いたAIを通し、誹謗中傷のような不適切な発言かどうかや、不適切な度合いはどれくらいかを判断。その結果、一定の水準を超えた発言には、AIが介入し自動的に適切な表現に変換してからタイムライン上へ投稿されるとのことだ。

・より洗練される検閲ルール
「DYSTOPIA」では、会員によりAI検閲ルールがより適したものへと洗練されていく。どのような発言を不適切として扱うかや、その水準はどのくらいか、どのように変換することで誰も傷つかないのか等、人々からの提案と投票で、誰も傷つかないSNSへ進化していくという。

・「DYSTOPIA」の会員
月額課金を行うことで会員になり、「AI検閲ルールの観覧→AI検閲ルールの投票→AI検閲ルールの提案」のように、段階的にDYSTOPIAの検閲ルールに介入できる。また、擬似的に「BIG・BROTHER」となり、検閲ルールを独裁的に決定できるプランも用意しているとのことだ。

・サービス使用料金
上記のAI検閲ルールに関与できる会員プランを除き、登録・利用は無料。