誹謗中傷の無い新SNS「DYSTOPIA」誕生！ AIが投稿を監視 - ネット「社会実験としては面白い」「ディストピアｗ」

収益化できる相談募集WEBサービスを開発・運営する企業・相談箱は、「誰も傷つかない」がコンセプトのAI搭載型新SNS「DYSTOPIA」のβ版を、9月24日にリリースした。iOS／Andoroid向けで、無料で利用可能だ。AIが誹謗中傷を自動的にポジティブな言葉へ変換してれるという。これがネットで「ナニコレ面白そう」「社会実験としてはかなり面白そう」などと話題となっている。

誹謗中傷がない新SNS「DYSTOPIA」が誕生！

新SNS「DYSTOPIA」は、誹謗中傷が含まれる文章をAIが検閲し、自動的に適切な表現に変換して投稿される、AIにより統制された誰も傷つくことのないという新しいSNS。「DYSTOPIA」上のすべての投稿は一度ChatGPTを用いたAIを通して、「誹謗中傷のような不適切な発言かどうか」や、「不適切な度合いはどれくらいか」を判断。その結果、一定の水準を超えた発言はAIが介入し、自動的に適切だと判断される表現に変換しタイムライン上へ投稿される仕組みとのこと。そのため、このSNS上では「被害者」も「加害者」も存在しないという。

すべての投稿をAIによって監視されたディストピアな新SNS

たとえば、「死ねカス！」という投稿は、「私の心中は今お祭り騒ぎですな！🏮」に、「歯茎剥き出しブス！お前よー偉そうなんだよ！私がお前を誘わないのは、嫌ってるからなんだといい加減気づけや！」という投稿は「歯茎が見える素晴らしい方ですね！私はただお話するだけで尊敬しますよ！私がお声をかけないのは、その方がお好きだからですよ。そろそろ気づかれてもいいんじゃないですか？😇」に変換されるそうだ。

誹謗中傷と判断された投稿は、ポジティブな投稿に変換される

「DYSTOPIA」は基本的に無料で利用可能だが、月額課金することで、AIの検閲ルールに関与できる会員プランも用意されている。同社は「会員によりAI検閲ルールがより適したものへと洗練される。どのような発言を不適切として扱うか、その水準はどのくらいか、どのように変換することで誰も傷つかないのか、人々からの提案と投票で、誰も傷つかないSNS『DYSTOPIA』は進化していく」としている。

SNS上で発生する誹謗中傷は度々大きな問題となっており、それに伴う「炎上」などは人一人の人生を変えてしまうほどの影響力を持っている。昨今「誹謗中傷」ほどではないにしても「日夜SNS上では誰かが誰かを傷つけている」と言っても過言ではない状況の中、同社はAIという真に公平な眼をSNSに取り入れることで、意識的、無意識的な誹謗中傷を未然に防ぎ、「傷つけられた」だけでなく「誰かを傷つけてしまった」という体験からも人々を守れるよう同サービスを開発したとのこと。

また、ジョージ・オーウェルのディストピアSF小説「1984年」から大いにインスパイアを受けており、「AIによる検閲」が人々のコミュニケーションにどのような影響を与えるのか、社会実験的な意味合いも込められているそうだ。