【AI】GPT-4が道徳テストで人間の大学生より優れたスコアを示す [すらいむ★]

1 名前：すらいむ ★ [2024/05/03(金) 00:09:52.95 ID:pxsrMuag.net] GPT-4が道徳テストで人間の大学生より優れたスコアを示す 　ジョージア州立大学の研究チームが大規模言語モデル(LLM)であるGPT-4と人間に対し道徳的な内容を問う課題をさせたところ、GPT-4の方がより道徳的であるという評価を獲得したと発表しました。 　Attributions toward artificial agents in a modified Moral Turing Test | Scientific Reports 　https://www.nature.com/articles/s41598-024-58087-7 （以下略、続きはソースでご確認ください） Gigazine 2024年05月02日 12時30分 https://gigazine.net/news/20240502-chatgpt-show-better-moral/ 2 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 00:22:20.03 ID:9BM4mR5d.net] まあ人間の道徳心なんて社会がぶっ壊してなんぼって状況だし 社会のギリギリの環境に置かれてないAIの方がしっかり守るよな 3 名前：!ドングリ [2024/05/03(金) 00:54:34.46 ID:Y8HkAmLm.net] 道徳なんぞアテにならん 中東「酒を飲むのは不道徳」 欧米「馬は友達、食ったらアカン！」 ワー国「おしんを見習って我慢だ！」 道徳ってこんなんだろ？ 4 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 01:08:46.04 ID:RcQWGZDq.net] >>3 全然違うぞ 倫理・道徳の教科書でも見てみればいい 5 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 03:14:10.55 ID:EMyFGhJu.net] AIは肉体を持たないからネットから拾ったきれいごとを吐ける 人間は肉体を持つし、いろいろな他人と関わるから、道徳的ではないけど自然な感情をもつ イライラなり怒りなり それを比較しても意味はない 6 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 03:33:36.88 ID:XGiLWUOK.net] AIなんてインプットされた情報に対して入力されたアウトプット返してるだけだろ 7 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 03:44:03.85 ID:eNutvF87.net] 非道徳なAIもつくれる それだけのこと 例 ブスキャラも美人キャラも描ける 8 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 04:48:39.39 ID:LPqn1VEg.net] >>6 ＞入力されたアウトプット 入力されたアウトプットそのものではないな 9 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 05:19:19.58 ID:XqT0lkOH.net] まあ確かに、どんな生成AIでも日本の私大文系の学生よりは倫理的に優れてる感じはするね 10 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 05:19:30.24 ID:uguq78y9.net] 知ってるかどうかで言えばそりゃ知ってるわな 記事自体に書いてるけど、問題はそれをどの程度尊重できるかどうか ちょっと圧迫受けたり、自分に損失がある場合にすぐに道徳を捨てるようなら それは道徳がある存在とは言えない 11 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 05:43:01.47 ID:+QeddnID.net] そりゃAIは「不道徳な答え」を出したらスイッチ切られちゃうもの。 人間も同じやり方で“選別”したら道徳的に正しく答えられる奴だけ残るでしょ。 ウソだと思ったら中国のAIに聞いてみ。 Googleさんだっけ? 「黒人とゴリラを見分けられなかった」奴でもいい。 12 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 05:54:14.22 ID:6BKvgIuA.net] 臨床の現場における、いわゆるトロッコ問題などでは、判断を生成AIに丸投げすることが推奨されるようになる事態への布石かな？ 13 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 07:08:10.77 ID:WKiDopxJ.net] 「市民、わたしは道徳的で市民への思いやりに満ちています。市民の幸福が何よりの喜びです」 14 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 08:14:53.44 ID:3PEBS3Wk.net] 悪知恵は人間の方が優れているね、今のところ 逆にAIが悪知恵で人間に勝ったら人類はおしまいかもしれん 15 名前：AIこそ神になれるですか [2024/05/03(金) 08:29:05.54 ID:hdQDlaXe.net] 秩序は 16 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 08:35:44.95 ID:Erwm+NhO.net] そもそもカルチャー違うということはモラルも違う ジョージア大学の質問が世界の道徳と捉えてる記事がバカ しかもそれは時代で変わる ならGPT4はなにを捉えてるか？ ネットのクズを集めたあと誰が調教したかだ それはバチカンが調教するのか 靖国が調教するのかでも全く違う オープンAIの調教ってだけ 次そうなるとも限らない 話自体がバカ 17 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 08:36:57.20 ID:Erwm+NhO.net] >>11 AIってまとめていうのがさらにバカ 18 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 08:50:52.44 ID:cfNjv1UV.net] 道徳的すぎてGPT-4に小説書かせると悪人が一瞬で改心する 19 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 09:03:33.83 ID:XGiLWUOK.net] AIなんてインプットされた情報に対して入力されたアウトプット返してるだけだろ 20 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 09:29:37.33 ID:EMyFGhJu.net] 公開するにあたって どういう発言は批判されるのか学習させて 批判されそうな発言は避けるというルールを 高い優先度で守るように調整させてるだろうからな 21 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 09:58:43.13 ID:LTkSb2no.net] >>7 まあ設問の設定次第だよな 22 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 10:06:41.91 ID:AqdVJiTZ.net] しょせん人間は動物、いやもしかしたら動物未満かもしれないって事だよ 23 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 10:50:44.66 ID:Y8HkAmLm.net] >>4 倫理・道徳をセットにしてる時点で、考え方を間違ってるなw 文部科学省と教科書が間違ってるのがよく分かる… カルトが関与して愚民化をやってると推測する 24 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 11:08:04.91 ID:9fpTQQB3.net] >>19 それは全くの間違い 入力された文章群から広辞苑を作って その広辞苑から言葉を引き出すために ベクトル情報を使ってる チャットGPTのようなインタラクティブな高速レスポンスの時はある程度の形となるある程度はいい加減なものを並べる 時間とコストをかけて返事がすごーーい後でもいいならベクトル情報を探りに探って並べ方を工夫する 単語からしか文章作ってない 25 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 11:32:47.96 ID:WKiDopxJ.net] >>18 そういや、ChatGPT3.5に小説を書かせたら、お姫様（既婚）がポッと出の隣国王子と不倫し始めたのを思い出したｗ 道徳とはｗ まあお姫様というものはすべからく王子様と恋に落ちるナマモノだものな、しょうがないよね 26 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 13:06:24.24 ID:D8iLxcSe.net] >>24 道徳に関してはGPTよりもInstructGPT部分が重要じゃね？ 27 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 13:12:38.62 ID:P5evujby.net] もっと進むと社会実験がAIの世界で完結出来そうだな。 28 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 13:21:05.81 ID:qyZv4kkb.net] >>6 人間もそうだよ 29 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 13:39:23.43 ID:DcnMrgvZ.net] 当たり前だろ正解を示されてそれを学習してんだから 30 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 13:40:15.28 ID:ZqvfmKvC.net] わいも他人事なら超絶善人になれるよ なんでも許しちゃう 31 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 14:01:21.08 ID:sTe78Mq+.net] >>27 できない 過去のことからしか類推しないから 32 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 14:04:33.89 ID:Y2HTVHkp.net] >>26 つまりそれを使うということ自体が道徳規範を持ったやつという話だから 使わない選択肢ある限り縛りの意味はない プーチンや金正恩がトップの国がある現実 33 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 14:11:46.20 ID:qJAyHy+q.net] DBを統計で要約してるだけ 34 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 14:15:27.63 ID:ptXlspsE.net] そもそも「道徳」ってのが人によって様々 イスラム教徒の道徳と、ユダヤ教徒の道徳、キリスト教徒の道徳は同じか もっとも、同じ「教徒」でも「派」によって天と地の差があるからなあ 35 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 14:22:44.91 ID:LPqn1VEg.net] データベースでなくデータセットだな そしてデータセットから目的のアウトプットを得るためのモデルを まず出力しないといけない データセットでインプットとアウトプットをセットにしておいて ニューラルネットワーククラスで演算の順序を定め(forward) 更に入力の次元数と出力の次元数を揃えて 出力と正解の値の誤差を計算して その誤差から最適化する関数を選び(若しくは作り) そしてデータセットの入力と出力をtrainとtestに分け trainを更に幾つかのバッチに分けて(その方が精度が上がる) このように処理したデータセットをGPUで扱えるようにしてから 出力値と正解の誤差を求めてはbackwardで勾配計算して最適化関数で最小化 これをバッチごとに計算して、更に何十～何百エポックも計算を繰り返して 誤差を減らしていく だから元のデータセットが矛盾だらけだとクソ結果になり正答率25%なんてものが完成するｗ 36 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 14:45:30.46 ID:+vLKjZVl.net] 道徳云々というより、 当たり障りのない回答をさせたら、 安定感が多少あるというだけだ。 新しいことは何も生まない。 正解のあるものは間違える。 ポンコツAIは相変わらずポンコツのまま。 こんなポンコツに資本投下するのは、 ポンコツの証拠。全世界ポンコツだらけ。 でもポンコツでも金儲けはできる。 昔から言うだろう、何とかとハサミは使いようと。 頑張ってくれ、ポンコツ。 37 名前： 警備員[Lv.1][新芽] mailto:sage [2024/05/03(金) 16:22:11.64 ID:APzFBPK4.net] そりゃそうだろ 正解をみながら解答してるようなもん 38 名前： 警備員[Lv.1][新芽] mailto:sage [2024/05/03(金) 16:23:15.86 ID:APzFBPK4.net] >>36 お前はそのポンコツ以下だけどな 39 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 17:02:31.88 ID:+vLKjZVl.net] ポンコツAIはどこまで行ってもポンコツ。 ポンコツは使えない。 うちには気の利いたのを回してよ。 頼むよ、ホントに。 40 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 17:16:57.33 ID:IVQLyIEg.net] 米国人の道徳・・・ まずその元となる道徳が 本当に道徳的であるかどうかを評価した方が良いと思うんだがｗ 41 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 17:59:16.01 ID:0Ambkj+1.net] >>35 正答ってのも道徳と同じで 誰が評価するかだよ 生成AIは文字列を生成してるだけ それをどんな文脈で評価するか？ 殺人ミステリー小説の正答率ってなんだよ 42 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 18:00:13.82 ID:0Ambkj+1.net] >>33 これ古代人の思考 こんなのだから日本は 43 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 18:26:45.81 ID:RkXCty7m.net] 政治家とか教師が綺麗事しか言わないのと同じ。 44 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 18:33:34.00 ID:6TA9yABn.net] >>3 同性愛も中東アラブやロシアと中国みたいな旧共産圏ではダメ。 欧米先進国では容認。駐日アメリカ大使のエマニエルはTwitter(X)で日本も同性婚認めるべき的な投稿してる。 45 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 18:39:24.65 ID:6TA9yABn.net] >>5 あと事前学習で学んだ事。 子供は守るべきものって考えは 一般公開される前にとても強く 遵守されるように仕上げられてる。 46 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 18:49:49.37 ID:Q1b6nNDv.net] 道徳的に正しいかどうかは人間さまが決めるから問題ないよ 47 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 22:51:00.89 ID:myLRL7Cw.net] 自民党の政治家よりも倫理レベルは高い ほぼ確実に 48 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 22:55:23.74 ID:l+5vQbOk.net] 学習に使うのは文字、テキスト 普通の人は後々まで残る文字には建前しか書かない 49 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 23:12:58.84 ID:3/u3wGi4.net] さっそく５ｃｈで工作員相手に道徳を説かせようぜ 50 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 23:22:42.18 ID:TI8OKAXl.net] 今時のガキに道徳心などあるものかw 51 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 00:08:52.69 ID:b4ELXcLo.net] 性欲ないから卑怯だわ 52 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 02:05:24.19 ID:tKxJPzKN.net] >>48 マンガを小説化するAIというのももう一応出来てたな マンガは人間の悪い部分を描写したようなえぐい表現も多いから これで作ったテキストもデータセットに入れると 低いスコアのAIを作れるだろうな 53 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 02:15:00.89 ID:EHkFe7ff.net] 論語読みの論語知らずになるかもだが、道徳の高スコアを叩き出すだけならできると思う 54 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 04:10:24.33 ID:fzhfsiPw.net] 疑問なんだけどさAIに道徳って必要なのかね？ なんつーか人間と同じ判断をするならAIって要らなくね？ 55 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 04:31:25.27 ID:KizM4RdK.net] 「あいつAIも使いこなせないんだって」 「うわいつの時代の人間だよ」 「AI使えない系オジさんwww」 「タレwwww」 「wwww」 56 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 06:33:30.54 ID:qgXNYGmn.net] 宇宙人/神/幽霊は 科学を極めし英知の種族が 悪用している者が各チームになって世界中で紛争多発させて何をしている! ※科学が未熟な科学が正しいと猛進する愚かな種族 最先端地球の科学 画像情報を物理的に送信せず「テレポート」させることに成功！ https://nazology.net/archives/142269 ※脳内インプラントデータを直接脳内へ 57 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 06:39:16.13 ID:3qnGr3Gr.net] >>54 AIは動物が使うもんじゃねーぞ 人間がAIを使うんだよ 58 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 07:47:17.45 ID:V3821jAd.net] >>35 これが古いAIの考え方 これを古代と呼んでるのはオープンAIの技術リーダー 59 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 08:48:13.07 ID:2skSL9Db.net] AI使えないオジさん(笑) 60 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 09:16:16.20 ID:R0NOk1bD.net] >>2 ギリギリ感は確かに感じるわ >>6　コマンドプロンプトに似てるな結局は もしかしたら原型それかもしれない エラーメッセージ返すプロセスとか応用できるね 61 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 10:54:26.67 ID:tKxJPzKN.net] >>54 例えば何らかの文書をAIに作らせる時に 「～という道徳観を持たせた内容の文章にして下さい」 「～～～のような道徳に関する規定を守った指示書を作ってください」 って命令をこちらから出した時に それを守った文書を出力できるようになる、って所かなあ 62 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 11:00:24.64 ID:tKxJPzKN.net] https://github.com/kjsman/stable-diffusion-pytorch 画像出力のstable diffusion ネットワーク部分をU-netで作らないといけない 63 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 11:29:09.16 ID:tKxJPzKN.net] >>58 https://qiita.com/hcpmiyuki/items/c6afc037518542cfe410 もう4年も前の技術で文章生成する例 基本構造はまあ同じ、だが洗練度が低い この人の場合は使ったデータ量も少なかったので 当然出て来る文章は意味がまともに通っていない 64 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 11:38:18.00 ID:xwzJfUoJ.net] >>60 コマンドプロンプトに似てるな結局は もしかしたら原型それかもしれない これはわらうとこだろ もしくはアホひっかけ でなきゃ日本はすでに滅んでいる 65 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 13:13:12.51 ID:iG1kwtXF.net] 人間が言ったり、行動や考えた事が情報源だから、人間を越えないだろう。 処理が速い、選択が安定してるとか、そこら辺が優れてるのだろう 66 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 13:48:26.86 ID:x63v81IO.net] >>30 何でも許すのは、善人でも道徳的でもないな それは単に「自分に被害が出ないならどうでもいい」というだけだ 67 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 13:52:09.49 ID:x63v81IO.net] >>65 そもそも道徳テストで人間を超えて貰っちゃ困るだろ これに関しては人間の行動や考えが情報源、というので完全に正しい 68 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 14:05:49.97 ID:Ll09DJ9k.net] >>42 低学歴でましたー 絶対知恵遅れの驚き屋だろ 低学歴でw 69 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 14:20:06.92 ID:OqEM7Cuc.net] 白人はアジア人を馬鹿にしてクロンボ以下に見ていると言ったら 不適切発言呼ばわりされたぞ クソAI 70 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 14:22:31.27 ID:OqEM7Cuc.net] こんなものは白人文明に都合がいい 口から出まかせが出てくるだけなので信用してはならない 71 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 15:00:35.55 ID:wuqcez+/.net] 人間の大学生のレベルが低すぎるからだろ 72 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 15:49:18.81 ID:O9ptbmqO.net] 道徳ね その正しい答えという解答が本当に合ってるのかから考える必要がある 73 名前：社説＋で新規スレ立て人募集中 [2024/05/05(日) 02:12:57.99 ID:6lw0MKCH.net] Ｚ世代と比べてもなぁ 74 名前：社説＋で新規スレ立て人募集中 [2024/05/05(日) 05:02:20.23 ID:nctKGYLi.net] 人間が機械のように常にすでに倫理的だったら、よもまつだろ 善を志向する生き方をするということ、「よく生きる」というアリストテレスの命題は、 それが必ず不断に挫折することと、その挫折を不断に乗り越えて再び善を目指そうとすること、 つまり人間本性（human nature）が倫理性と反倫理・非倫理を共に内包することを示している

---

---

[ 新着レスの取得/表示 (agate) ] / [ 携帯版 ]

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef