【AI】GPT-4が道徳テストで人間の大学生より優れたスコアを示す [すらいむ★]

[表示 : 全て最新50 1-99 2ch.scのread.cgiへ]
Update time : 05/05 10:44 / Filesize : 18 KB / Number-of Response : 75
[このスレッドの書き込みを削除する]
[＋板最近立ったスレ＆熱いスレ一覧 : ＋板最近立ったスレ／記者別一覧] [類似スレッド一覧]


↑キャッシュ検索、類似スレ動作を修正しました、ご迷惑をお掛けしました

1 名前：すらいむ ★ [2024/05/03(金) 00:09:52.95 ID:pxsrMuag.net]: GPT-4が道徳テストで人間の大学生より優れたスコアを示す

　ジョージア州立大学の研究チームが大規模言語モデル(LLM)であるGPT-4と人間に対し道徳的な内容を問う課題をさせたところ、GPT-4の方がより道徳的であるという評価を獲得したと発表しました。

　Attributions toward artificial agents in a modified Moral Turing Test | Scientific Reports
　https://www.nature.com/articles/s41598-024-58087-7

（以下略、続きはソースでご確認ください）

Gigazine 2024年05月02日 12時30分
https://gigazine.net/news/20240502-chatgpt-show-better-moral/
25 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 11:32:47.96 ID:WKiDopxJ.net]: >>18
そういや、ChatGPT3.5に小説を書かせたら、お姫様（既婚）がポッと出の隣国王子と不倫し始めたのを思い出したｗ
道徳とはｗ
まあお姫様というものはすべからく王子様と恋に落ちるナマモノだものな、しょうがないよね
26 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 13:06:24.24 ID:D8iLxcSe.net]: >>24
道徳に関してはGPTよりもInstructGPT部分が重要じゃね？
27 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 13:12:38.62 ID:P5evujby.net]: もっと進むと社会実験がAIの世界で完結出来そうだな。
28 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 13:21:05.81 ID:qyZv4kkb.net]: >>6
人間もそうだよ
29 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 13:39:23.43 ID:DcnMrgvZ.net]: 当たり前だろ正解を示されてそれを学習してんだから
30 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 13:40:15.28 ID:ZqvfmKvC.net]: わいも他人事なら超絶善人になれるよ
なんでも許しちゃう
31 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 14:01:21.08 ID:sTe78Mq+.net]: >>27
できない
過去のことからしか類推しないから
32 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 14:04:33.89 ID:Y2HTVHkp.net]: >>26
つまりそれを使うということ自体が道徳規範を持ったやつという話だから
使わない選択肢ある限り縛りの意味はない
プーチンや金正恩がトップの国がある現実
33 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 14:11:46.20 ID:qJAyHy+q.net]: DBを統計で要約してるだけ
34 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 14:15:27.63 ID:ptXlspsE.net]: そもそも「道徳」ってのが人によって様々

イスラム教徒の道徳と、ユダヤ教徒の道徳、キリスト教徒の道徳は同じか
もっとも、同じ「教徒」でも「派」によって天と地の差があるからなあ
35 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 14:22:44.91 ID:LPqn1VEg.net]: データベースでなくデータセットだな
そしてデータセットから目的のアウトプットを得るためのモデルを
まず出力しないといけない

データセットでインプットとアウトプットをセットにしておいて
ニューラルネットワーククラスで演算の順序を定め(forward)
更に入力の次元数と出力の次元数を揃えて

出力と正解の値の誤差を計算して
その誤差から最適化する関数を選び(若しくは作り)

そしてデータセットの入力と出力をtrainとtestに分け
trainを更に幾つかのバッチに分けて(その方が精度が上がる)
このように処理したデータセットをGPUで扱えるようにしてから

出力値と正解の誤差を求めてはbackwardで勾配計算して最適化関数で最小化
これをバッチごとに計算して、更に何十～何百エポックも計算を繰り返して
誤差を減らしていく

だから元のデータセットが矛盾だらけだとクソ結果になり正答率25%なんてものが完成するｗ
36 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 14:45:30.46 ID:+vLKjZVl.net]: 道徳云々というより、
当たり障りのない回答をさせたら、
安定感が多少あるというだけだ。
新しいことは何も生まない。
正解のあるものは間違える。
ポンコツAIは相変わらずポンコツのまま。
こんなポンコツに資本投下するのは、
ポンコツの証拠。全世界ポンコツだらけ。
でもポンコツでも金儲けはできる。
昔から言うだろう、何とかとハサミは使いようと。
頑張ってくれ、ポンコツ。
37 名前： 警備員[Lv.1][新芽] mailto:sage [2024/05/03(金) 16:22:11.64 ID:APzFBPK4.net]: そりゃそうだろ
正解をみながら解答してるようなもん
38 名前： 警備員[Lv.1][新芽] mailto:sage [2024/05/03(金) 16:23:15.86 ID:APzFBPK4.net]: >>36
お前はそのポンコツ以下だけどな
39 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 17:02:31.88 ID:+vLKjZVl.net]: ポンコツAIはどこまで行ってもポンコツ。
ポンコツは使えない。
うちには気の利いたのを回してよ。
頼むよ、ホントに。
40 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 17:16:57.33 ID:IVQLyIEg.net]: 米国人の道徳・・・
まずその元となる道徳が
本当に道徳的であるかどうかを評価した方が良いと思うんだがｗ
41 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 17:59:16.01 ID:0Ambkj+1.net]: >>35
正答ってのも道徳と同じで
誰が評価するかだよ
生成AIは文字列を生成してるだけ
それをどんな文脈で評価するか？
殺人ミステリー小説の正答率ってなんだよ
42 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 18:00:13.82 ID:0Ambkj+1.net]: >>33
これ古代人の思考
こんなのだから日本は
43 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 18:26:45.81 ID:RkXCty7m.net]: 政治家とか教師が綺麗事しか言わないのと同じ。
44 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 18:33:34.00 ID:6TA9yABn.net]: >>3

同性愛も中東アラブやロシアと中国みたいな旧共産圏ではダメ。
欧米先進国では容認。駐日アメリカ大使のエマニエルはTwitter(X)で日本も同性婚認めるべき的な投稿してる。
45 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 18:39:24.65 ID:6TA9yABn.net]: >>5

あと事前学習で学んだ事。
子供は守るべきものって考えは
一般公開される前にとても強く
遵守されるように仕上げられてる。
46 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 18:49:49.37 ID:Q1b6nNDv.net]: 道徳的に正しいかどうかは人間さまが決めるから問題ないよ
47 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 22:51:00.89 ID:myLRL7Cw.net]: 自民党の政治家よりも倫理レベルは高い
ほぼ確実に
48 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 22:55:23.74 ID:l+5vQbOk.net]: 学習に使うのは文字、テキスト
普通の人は後々まで残る文字には建前しか書かない
49 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/03(金) 23:12:58.84 ID:3/u3wGi4.net]: さっそく５ｃｈで工作員相手に道徳を説かせようぜ
50 名前：社説＋で新規スレ立て人募集中 [2024/05/03(金) 23:22:42.18 ID:TI8OKAXl.net]: 今時のガキに道徳心などあるものかw
51 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 00:08:52.69 ID:b4ELXcLo.net]: 性欲ないから卑怯だわ
52 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 02:05:24.19 ID:tKxJPzKN.net]: >>48
マンガを小説化するAIというのももう一応出来てたな

マンガは人間の悪い部分を描写したようなえぐい表現も多いから
これで作ったテキストもデータセットに入れると
低いスコアのAIを作れるだろうな
53 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 02:15:00.89 ID:EHkFe7ff.net]: 論語読みの論語知らずになるかもだが、道徳の高スコアを叩き出すだけならできると思う
54 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 04:10:24.33 ID:fzhfsiPw.net]: 疑問なんだけどさAIに道徳って必要なのかね？
なんつーか人間と同じ判断をするならAIって要らなくね？
55 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 04:31:25.27 ID:KizM4RdK.net]: 「あいつAIも使いこなせないんだって」
「うわいつの時代の人間だよ」
「AI使えない系オジさんwww」
「タレwwww」
「wwww」
56 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 06:33:30.54 ID:qgXNYGmn.net]: 宇宙人/神/幽霊は科学を極めし英知の種族が
悪用している者が各チームになって世界中で紛争多発させて何をしている!
※科学が未熟な科学が正しいと猛進する愚かな種族

最先端地球の科学
画像情報を物理的に送信せず「テレポート」させることに成功！
https://nazology.net/archives/142269
※脳内インプラントデータを直接脳内へ
57 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 06:39:16.13 ID:3qnGr3Gr.net]: >>54
AIは動物が使うもんじゃねーぞ
人間がAIを使うんだよ
58 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 07:47:17.45 ID:V3821jAd.net]: >>35
これが古いAIの考え方
これを古代と呼んでるのはオープンAIの技術リーダー
59 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 08:48:13.07 ID:2skSL9Db.net]: AI使えないオジさん(笑)
60 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 09:16:16.20 ID:R0NOk1bD.net]: >>2
ギリギリ感は確かに感じるわ
>>6　コマンドプロンプトに似てるな結局は
もしかしたら原型それかもしれない
エラーメッセージ返すプロセスとか応用できるね
61 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 10:54:26.67 ID:tKxJPzKN.net]: >>54
例えば何らかの文書をAIに作らせる時に

「～という道徳観を持たせた内容の文章にして下さい」
「～～～のような道徳に関する規定を守った指示書を作ってください」
って命令をこちらから出した時に
それを守った文書を出力できるようになる、って所かなあ
62 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 11:00:24.64 ID:tKxJPzKN.net]: https://github.com/kjsman/stable-diffusion-pytorch
画像出力のstable diffusion
ネットワーク部分をU-netで作らないといけない
63 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 11:29:09.16 ID:tKxJPzKN.net]: >>58
https://qiita.com/hcpmiyuki/items/c6afc037518542cfe410
もう4年も前の技術で文章生成する例
基本構造はまあ同じ、だが洗練度が低い

この人の場合は使ったデータ量も少なかったので
当然出て来る文章は意味がまともに通っていない
64 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 11:38:18.00 ID:xwzJfUoJ.net]: >>60
コマンドプロンプトに似てるな結局は
もしかしたら原型それかもしれない

これはわらうとこだろ
もしくはアホひっかけ

でなきゃ日本はすでに滅んでいる
65 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 13:13:12.51 ID:iG1kwtXF.net]: 人間が言ったり、行動や考えた事が情報源だから、人間を越えないだろう。
処理が速い、選択が安定してるとか、そこら辺が優れてるのだろう
66 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 13:48:26.86 ID:x63v81IO.net]: >>30
何でも許すのは、善人でも道徳的でもないな
それは単に「自分に被害が出ないならどうでもいい」というだけだ
67 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 13:52:09.49 ID:x63v81IO.net]: >>65
そもそも道徳テストで人間を超えて貰っちゃ困るだろ
これに関しては人間の行動や考えが情報源、というので完全に正しい
68 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 14:05:49.97 ID:Ll09DJ9k.net]: >>42
低学歴でましたー
絶対知恵遅れの驚き屋だろ
低学歴でw
69 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 14:20:06.92 ID:OqEM7Cuc.net]: 白人はアジア人を馬鹿にしてクロンボ以下に見ていると言ったら
不適切発言呼ばわりされたぞ
クソAI
70 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 14:22:31.27 ID:OqEM7Cuc.net]: こんなものは白人文明に都合がいい
口から出まかせが出てくるだけなので信用してはならない
71 名前：社説＋で新規スレ立て人募集中 [2024/05/04(土) 15:00:35.55 ID:wuqcez+/.net]: 人間の大学生のレベルが低すぎるからだろ
72 名前：社説＋で新規スレ立て人募集中 mailto:sage [2024/05/04(土) 15:49:18.81 ID:O9ptbmqO.net]: 道徳ね
その正しい答えという解答が本当に合ってるのかから考える必要がある
73 名前：社説＋で新規スレ立て人募集中 [2024/05/05(日) 02:12:57.99 ID:6lw0MKCH.net]: Ｚ世代と比べてもなぁ
74 名前：社説＋で新規スレ立て人募集中 [2024/05/05(日) 05:02:20.23 ID:nctKGYLi.net]: 人間が機械のように常にすでに倫理的だったら、よもまつだろ
善を志向する生き方をするということ、「よく生きる」というアリストテレスの命題は、
それが必ず不断に挫折することと、その挫折を不断に乗り越えて再び善を目指そうとすること、
つまり人間本性（human nature）が倫理性と反倫理・非倫理を共に内包することを示している

[ 新着レスの取得/表示 (agate) ] / [ 携帯版 ]

read.cgi ver5.27 [feat.BBS2 +1.6] / e.0.2 (02/09/03) / eucaly.net products.
担当:undef