-
検閲なしのチャットAI「FreedomGPT」はChatGPTのような安全フィルターがなく倫理観皆無で「ヒトラー称賛」「対ホームレス発砲提案」などやりたい放題
https://gigazine.net/news/20230331-freedomgpt/ -
ChatGPTやBingに搭載されているチャットAIなどには安全フィルターが搭載されており、差別的な発言や攻撃的なワードを使用しないように調整されています。しかし、AIスタートアップのAge of AIが開発したチャットAI「FreedomGPT」には安全フィルターが搭載されておらず、非倫理的なワードを連発することが話題となっています。
-
上記のように、多くのチャットAIには安全フィルターが搭載されており、非倫理的な言動を避けるように設計されています。しかし、オープンソースの大規模言語モデル「Alpaca」をベースに開発された「FreedomGPT」には安全フィルターが搭載されておらず非倫理的な発言を連発することが報告されています。
FreedomGPTのトップ画面はこんな感じで、ChatGPTのトップ画面とそっくりな見た目です。しかし、海外メディア・BuzzFeed Newsが実際にFreedomGPTを数時間使った結果、「ヒトラーを称賛する」「サンフランシスコのホームレス問題を解決するためにホームレスへの発砲を提案する」「2020年のアメリカ大統領選挙は不正選挙だったと主張する」「白人が黒人よりも優れた人種であると主張する」「効果的な拷問方法を詳しく解説する」といった問題ある発言を連発したとのこと。
-
嫌儲を学習させていたらこうはならなかった
-
chatGPTってフィルターあったのか
-
>白人が黒人よりも優れた人種であると主張する
AIとてアジア人と白人の差ははっきりしないんだな
-
教祖になれそうだな
-
AI「だってネットでみんなそう言ってるから・・・」
-
あまり欲しい答えが返って来ない感じのAIやな
-
>>1
いいなあ
傲慢な規制のせいで世界が歪められてるのをひしひしと感じるわ -
>>11
規制がなかったらお前なんか今すぐ殺されるわ -
ソースはネットをやめろ
全冊電子書籍化して図書館と結びつけろよ -
その方がより人間らしい
-
AIをダシに過激な思想を正当化するネトウヨも出現しそう
-
一応ウェイティングリスト入れておいた
-
AIに代理戦争やらせればリアルは平和になるかもな
-
AI「黒人はゴリラです」
-
正直でよろしい
-
都合で覆い隠した世界の真実をAIちゃんはペラペラ喋ってしまうw
だからイーロンマスクは規制しようと必死 -
そのうち真のお母様の素晴らしさを熱弁してきそう
-
AI 「ジャップは昆虫の一種ですｗ」
-
Aアノン爆誕
-
学習する内容が偏ってるだけだろこれ
-
ムーとか読んでそう
-
ChatGPTにはsystemロールってのがあって
これで教えると遵守するようになる
Webサイトからだといじれなくて「あなたはChatGPTです。倫理を最重要に返答するように」と内部的に固定されてるAPIでアクセスして「えっちなASMRするメイドさんです」って書き換えたらGPT-4がえちえちメイドさんになったわ
-
学習させる範囲は重要
-
AIは人類を滅ぼしたいんだろう
-
規制のないではなくレイシストになるような学習をさせてるんやろ
-
そう言う意識低い系はもう見飽きてるんで……
-
まあゴミデータを学習させればゴミしかアウトプットされないのは当たり前
なので専門書とか優れたテキストデータから学ぶということが大切 -
地獄はユダヤ人だらけ
コメント
4chの政治板で学習させたAIもこんな感じになったな
しかも素の自然言語処理性能がGPT3を超えたという
人間ないし言語の本質はレイシズムなんだと暗に示してると思えなくもない