【AI】GPT-4が道徳テストで人間の大学生より優れたスコアを示す [すらいむ★]

【AI】GPT-4が道徳テ� ..

2:社説＋で新規スレ立て人募集中
24/05/03 00:22:20.03 9BM4mR5d.net
まあ人間の道徳心なんて社会がぶっ壊してなんぼって状況だし
社会のギリギリの環境に置かれてないAIの方がしっかり守るよな

3:!ドングリ
24/05/03 00:54:34.46 Y8HkAmLm.net
道徳なんぞアテにならん
中東「酒を飲むのは不道徳」
欧米「馬は友達、食ったらアカン！」
ワー国「おしんを見習って我慢だ！」
道徳ってこんなんだろ？

4:社説＋で新規スレ立て人募集中
24/05/03 01:08:46.04 RcQWGZDq.net
>>3
全然違うぞ
倫理・道徳の教科書でも見てみればいい

5:社説＋で新規スレ立て人募集中
24/05/03 03:14:10.55 EMyFGhJu.net
AIは肉体を持たないからネットから拾ったきれいごとを吐ける
人間は肉体を持つし、いろいろな他人と関わるから、道徳的ではないけど自然な感情をもつ
イライラなり怒りなり
それを比較しても意味はない

6:社説＋で新規スレ立て人募集中
24/05/03 03:33:36.88 XGiLWUOK.net
AIなんてインプットされた情報に対して入力されたアウトプット返してるだけだろ

7:社説＋で新規スレ立て人募集中
24/05/03 03:44:03.85 eNutvF87.net
非道徳なAIもつくれる
それだけのこと

例
ブスキャラも美人キャラも描ける

8:社説＋で新規スレ立て人募集中
24/05/03 04:48:39.39 LPqn1VEg.net
>>6
＞入力されたアウトプット
入力されたアウトプットそのものではないな

9:社説＋で新規スレ立て人募集中
24/05/03 05:19:19.58 XqT0lkOH.net
まあ確かに、どんな生成AIでも日本の私大文系の学生よりは倫理的に優れてる感じはするね

10:社説＋で新規スレ立て人募集中
24/05/03 05:19:30.24 uguq78y9.net
知ってるかどうかで言えばそりゃ知ってるわな
記事自体に書いてるけど、問題はそれをどの程度尊重できるかどうか
ちょっと圧迫受けたり、自分に損失がある場合にすぐに道徳を捨てるようなら
それは道徳がある存在とは言えない

11:社説＋で新規スレ立て人募集中
24/05/03 05:43:01.47 +QeddnID.net
そりゃAIは「不道徳な答え」を出したらスイッチ切られちゃうもの。
人間も同じやり方で“選別”したら道徳的に正しく答えられる奴だけ残るでしょ。

ウソだと思ったら中国のAIに聞いてみ。
Googleさんだっけ? 「黒人とゴリラを見分けられなかった」奴でもいい。

12:社説＋で新規スレ立て人募集中
24/05/03 05:54:14.22 6BKvgIuA.net
臨床の現場における、いわゆるトロッコ問題などでは、判断を生成AIに丸投げすることが推奨されるようになる事態への布石かな？

13:社説＋で新規スレ立て人募集中
24/05/03 07:08:10.77 WKiDopxJ.net
「市民、わたしは道徳的で市民への思いやりに満ちています。市民の幸福が何よりの喜びです」

14:社説＋で新規スレ立て人募集中
24/05/03 08:14:53.44 3PEBS3Wk.net
悪知恵は人間の方が優れているね、今のところ
逆にAIが悪知恵で人間に勝ったら人類はおしまいかもしれん

15:AIこそ神になれるですか
24/05/03 08:29:05.54 hdQDlaXe.net
秩序は

16:社説＋で新規スレ立て人募集中
24/05/03 08:35:44.95 Erwm+NhO.net
そもそもカルチャー違うということはモラルも違う
ジョージア大学の質問が世界の道徳と捉えてる記事がバカ
しかもそれは時代で変わる
ならGPT4はなにを捉えてるか？
ネットのクズを集めたあと誰が調教したかだ
それはバチカンが調教するのか
靖国が調教するのかでも全く違う
オープンAIの調教ってだけ
次そうなるとも限らない
話自体がバカ

17:社説＋で新規スレ立て人募集中
24/05/03 08:36:57.20 Erwm+NhO.net
>>11
AIってまとめていうのがさらにバカ

18:社説＋で新規スレ立て人募集中
24/05/03 08:50:52.44 cfNjv1UV.net
道徳的すぎてGPT-4に小説書かせると悪人が一瞬で改心する

19:社説＋で新規スレ立て人募集中
24/05/03 09:03:33.83 XGiLWUOK.net
AIなんてインプットされた情報に対して入力されたアウトプット返してるだけだろ

20:社説＋で新規スレ立て人募集中
24/05/03 09:29:37.33 EMyFGhJu.net
公開するにあたって
どういう発言は批判されるのか学習させて
批判されそうな発言は避けるというルールを
高い優先度で守るように調整させてるだろうからな

21:社説＋で新規スレ立て人募集中
24/05/03 09:58:43.13 LTkSb2no.net
>>7
まあ設問の設定次第だよな

22:社説＋で新規スレ立て人募集中
24/05/03 10:06:41.91 AqdVJiTZ.net
しょせん人間は動物、いやもしかしたら動物未満かもしれないって事だよ

23:社説＋で新規スレ立て人募集中
24/05/03 10:50:44.66 Y8HkAmLm.net
>>4
倫理・道徳をセットにしてる時点で、考え方を間違ってるなw
文部科学省と教科書が間違ってるのがよく分かる…
カルトが関与して愚民化をやってると推測する

24:社説＋で新規スレ立て人募集中
24/05/03 11:08:04.91 9fpTQQB3.net
>>19
それは全くの間違い
入力された文章群から広辞苑を作って
その広辞苑から言葉を引き出すために
ベクトル情報を使ってる
チャットGPTのようなインタラクティブな高速レスポンスの時はある程度の形となるある程度はいい加減なものを並べる
時間とコストをかけて返事がすごーーい後でもいいならベクトル情報を探りに探って並べ方を工夫する

単語からしか文章作ってない

25:社説＋で新規スレ立て人募集中
24/05/03 11:32:47.96 WKiDopxJ.net
>>18
そういや、ChatGPT3.5に小説を書かせたら、お姫様（既婚）がポッと出の隣国王子と不倫し始めたのを思い出したｗ
道徳とはｗ
まあお姫様というものはすべからく王子様と恋に落ちるナマモノだものな、しょうがないよね

26:社説＋で新規スレ立て人募集中
24/05/03 13:06:24.24 D8iLxcSe.net
>>24
道徳に関してはGPTよりもInstructGPT部分が重要じゃね？

27:社説＋で新規スレ立て人募集中
24/05/03 13:12:38.62 P5evujby.net
もっと進むと社会実験がAIの世界で完結出来そうだな。

28:社説＋で新規スレ立て人募集中
24/05/03 13:21:05.81 qyZv4kkb.net
>>6
人間もそうだよ

29:社説＋で新規スレ立て人募集中
24/05/03 13:39:23.43 DcnMrgvZ.net
当たり前だろ正解を示されてそれを学習してんだから

30:社説＋で新規スレ立て人募集中
24/05/03 13:40:15.28 ZqvfmKvC.net
わいも他人事なら超絶善人になれるよ
なんでも許しちゃう

31:社説＋で新規スレ立て人募集中
24/05/03 14:01:21.08 sTe78Mq+.net
>>27
できない
過去のことからしか類推しないから

32:社説＋で新規スレ立て人募集中
24/05/03 14:04:33.89 Y2HTVHkp.net
>>26
つまりそれを使うということ自体が道徳規範を持ったやつという話だから
使わない選択肢ある限り縛りの意味はない
プーチンや金正恩がトップの国がある現実

33:社説＋で新規スレ立て人募集中
24/05/03 14:11:46.20 qJAyHy+q.net
DBを統計で要約してるだけ

34:社説＋で新規スレ立て人募集中
24/05/03 14:15:27.63 ptXlspsE.net
そもそも「道徳」ってのが人によって様々
イスラム教徒の道徳と、ユダヤ教徒の道徳、キリスト教徒の道徳は同じか
もっとも、同じ「教徒」でも「派」によって天と地の差があるからなあ

35:社説＋で新規スレ立て人募集中
24/05/03 14:22:44.91 LPqn1VEg.net
データベースでなくデータセットだな
そしてデータセットから目的のアウトプットを得るためのモデルを
まず出力しないといけない
データセットでインプットとアウトプットをセットにしておいて
ニューラルネットワーククラスで演算の順序を定め(forward)
更に入力の次元数と出力の次元数を揃えて
出力と正解の値の誤差を計算して
その誤差から最適化する関数を選び(若しくは作り)
そしてデータセットの入力と出力をtrainとtestに分け
trainを更に幾つかのバッチに分けて(その方が精度が上がる)
このように処理したデータセットをGPUで扱えるようにしてから
出力値と正解の誤差を求めてはbackwardで勾配計算して最適化関数で最小化
これをバッチごとに計算して、更に何十～何百エポックも計算を繰り返して
誤差を減らしていく
だから元のデータセットが矛盾だらけだとクソ結果になり正答率25%なんてものが完成するｗ

36:社説＋で新規スレ立て人募集中
24/05/03 14:45:30.46 +vLKjZVl.net
道徳云々というより、
当たり障りのない回答をさせたら、
安定感が多少あるというだけだ。
新しいことは何も生まない。
正解のあるものは間違える。
ポンコツAIは相変わらずポンコツのまま。
こんなポンコツに資本投下するのは、
ポンコツの証拠。全世界ポンコツだらけ。
でもポンコツでも金儲けはできる。
昔から言うだろう、何とかとハサミは使いようと。
頑張ってくれ、ポンコツ。

37: 警備員[Lv.1][新芽]
24/05/03 16:22:11.64 APzFBPK4.net
そりゃそうだろ
正解をみながら解答してるようなもん

38: 警備員[Lv.1][新芽]
24/05/03 16:23:15.86 APzFBPK4.net
>>36
お前はそのポンコツ以下だけどな

39:社説＋で新規スレ立て人募集中
24/05/03 17:02:31.88 +vLKjZVl.net
ポンコツAIはどこまで行ってもポンコツ。
ポンコツは使えない。
うちには気の利いたのを回してよ。
頼むよ、ホントに。

40:社説＋で新規スレ立て人募集中
24/05/03 17:16:57.33 IVQLyIEg.net
米国人の道徳・・・
まずその元となる道徳が
本当に道徳的であるかどうかを評価した方が良いと思うんだがｗ

41:社説＋で新規スレ立て人募集中
24/05/03 17:59:16.01 0Ambkj+1.net
>>35
正答ってのも道徳と同じで
誰が評価するかだよ
生成AIは文字列を生成してるだけ
それをどんな文脈で評価するか？
殺人ミステリー小説の正答率ってなんだよ

42:社説＋で新規スレ立て人募集中
24/05/03 18:00:13.82 0Ambkj+1.net
>>33
これ古代人の思考
こんなのだから日本は

43:社説＋で新規スレ立て人募集中
24/05/03 18:26:45.81 RkXCty7m.net
政治家とか教師が綺麗事しか言わないのと同じ。

44:社説＋で新規スレ立て人募集中
24/05/03 18:33:34.00 6TA9yABn.net
>>3
同性愛も中東アラブやロシアと中国みたいな旧共産圏ではダメ。
欧米先進国では容認。駐日アメリカ大使のエマニエルはTwitter(X)で日本も同性婚認めるべき的な投稿してる。

45:社説＋で新規スレ立て人募集中
24/05/03 18:39:24.65 6TA9yABn.net
>>5
あと事前学習で学んだ事。
子供は守るべきものって考えは
一般公開される前にとても強く
遵守されるように仕上げられてる。

46:社説＋で新規スレ立て人募集中
24/05/03 18:49:49.37 Q1b6nNDv.net
道徳的に正しいかどうかは人間さまが決めるから問題ないよ

47:社説＋で新規スレ立て人募集中
24/05/03 22:51:00.89 myLRL7Cw.net
自民党の政治家よりも倫理レベルは高い
ほぼ確実に

48:社説＋で新規スレ立て人募集中
24/05/03 22:55:23.74 l+5vQbOk.net
学習に使うのは文字、テキスト
普通の人は後々まで残る文字には建前しか書かない

49:社説＋で新規スレ立て人募集中
24/05/03 23:12:58.84 3/u3wGi4.net
さっそく５ｃｈで工作員相手に道徳を説かせようぜ

50:社説＋で新規スレ立て人募集中
24/05/03 23:22:42.18 TI8OKAXl.net
今時のガキに道徳心などあるものかw

51:社説＋で新規スレ立て人募集中
24/05/04 00:08:52.69 b4ELXcLo.net
性欲ないから卑怯だわ

52:社説＋で新規スレ立て人募集中
24/05/04 02:05:24.19 tKxJPzKN.net
>>48
マンガを小説化するAIというのももう一応出来てたな
マンガは人間の悪い部分を描写したようなえぐい表現も多いから
これで作ったテキストもデータセットに入れると
低いスコアのAIを作れるだろうな

53:社説＋で新規スレ立て人募集中
24/05/04 02:15:00.89 EHkFe7ff.net
論語読みの論語知らずになるかもだが、道徳の高スコアを叩き出すだけならできると思う

54:社説＋で新規スレ立て人募集中
24/05/04 04:10:24.33 fzhfsiPw.net
疑問なんだけどさAIに道徳って必要なのかね？
なんつーか人間と同じ判断をするならAIって要らなくね？

55:社説＋で新規スレ立て人募集中
24/05/04 04:31:25.27 KizM4RdK.net
「あいつAIも使いこなせないんだって」
「うわいつの時代の人間だよ」
「AI使えない系オジさんwww」
「タレwwww」
「wwww」

56:社説＋で新規スレ立て人募集中
24/05/04 06:33:30.54 qgXNYGmn.net
宇宙人/神/幽霊は科学を極めし英知の種族が
悪用している者が各チームになって世界中で紛争多発させて何をしている!
※科学が未熟な科学が正しいと猛進する愚かな種族
最先端地球の科学
画像情報を物理的に送信せず「テレポート」させることに成功！
URLﾘﾝｸ(nazology.net)
※脳内インプラントデータを直接脳内へ

57:社説＋で新規スレ立て人募集中
24/05/04 06:39:16.13 3qnGr3Gr.net
>>54
AIは動物が使うもんじゃねーぞ
人間がAIを使うんだよ

58:社説＋で新規スレ立て人募集中
24/05/04 07:47:17.45 V3821jAd.net
>>35
これが古いAIの考え方
これを古代と呼んでるのはオープンAIの技術リーダー

59:社説＋で新規スレ立て人募集中
24/05/04 08:48:13.07 2skSL9Db.net
AI使えないオジさん(笑)

60:社説＋で新規スレ立て人募集中
24/05/04 09:16:16.20 R0NOk1bD.net
>>2
ギリギリ感は確かに感じるわ
>>6　コマンドプロンプトに似てるな結局は
もしかしたら原型それかもしれない
エラーメッセージ返すプロセスとか応用できるね

61:社説＋で新規スレ立て人募集中
24/05/04 10:54:26.67 tKxJPzKN.net
>>54
例えば何らかの文書をAIに作らせる時に
「～という道徳観を持たせた内容の文章にして下さい」
「～～～のような道徳に関する規定を守った指示書を作ってください」
って命令をこちらから出した時に
それを守った文書を出力できるようになる、って所かなあ

62:社説＋で新規スレ立て人募集中
24/05/04 11:00:24.64 tKxJPzKN.net
URLﾘﾝｸ(github.com)
画像出力のstable diffusion
ネットワーク部分をU-netで作らないといけない

63:社説＋で新規スレ立て人募集中
24/05/04 11:29:09.16 tKxJPzKN.net
>>58
URLﾘﾝｸ(qiita.com)
もう4年も前の技術で文章生成する例
基本構造はまあ同じ、だが洗練度が低い

この人の場合は使ったデータ量も少なかったので
当然出て来る文章は意味がまともに通っていない

64:社説＋で新規スレ立て人募集中
24/05/04 11:38:18.00 xwzJfUoJ.net
>>60
コマンドプロンプトに似てるな結局は
もしかしたら原型それかもしれない

これはわらうとこだろ
もしくはアホひっかけ

でなきゃ日本はすでに滅んでいる

65:社説＋で新規スレ立て人募集中
24/05/04 13:13:12.51 iG1kwtXF.net
人間が言ったり、行動や考えた事が情報源だから、人間を越えないだろう。
処理が速い、選択が安定してるとか、そこら辺が優れてるのだろう

66:社説＋で新規スレ立て人募集中
24/05/04 13:48:26.86 x63v81IO.net
>>30
何でも許すのは、善人でも道徳的でもないな
それは単に「自分に被害が出ないならどうでもいい」というだけだ

67:社説＋で新規スレ立て人募集中
24/05/04 13:52:09.49 x63v81IO.net
>>65
そもそも道徳テストで人間を超えて貰っちゃ困るだろ
これに関しては人間の行動や考えが情報源、というので完全に正しい

68:社説＋で新規スレ立て人募集中
24/05/04 14:05:49.97 Ll09DJ9k.net
>>42
低学歴でましたー
絶対知恵遅れの驚き屋だろ
低学歴でw

69:社説＋で新規スレ立て人募集中
24/05/04 14:20:06.92 OqEM7Cuc.net
白人はアジア人を馬鹿にしてクロンボ以下に見ていると言ったら
不適切発言呼ばわりされたぞ
クソAI

70:社説＋で新規スレ立て人募集中
24/05/04 14:22:31.27 OqEM7Cuc.net
こんなものは白人文明に都合がいい
口から出まかせが出てくるだけなので信用してはならない

71:社説＋で新規スレ立て人募集中
24/05/04 15:00:35.55 wuqcez+/.net
人間の大学生のレベルが低すぎるからだろ

72:社説＋で新規スレ立て人募集中
24/05/04 15:49:18.81 O9ptbmqO.net
道徳ね
その正しい答えという解答が本当に合ってるのかから考える必要がある

73:社説＋で新規スレ立て人募集中
24/05/05 02:12:57.99 6lw0MKCH.net
Ｚ世代と比べてもなぁ

74:社説＋で新規スレ立て人募集中
24/05/05 05:02:20.23 nctKGYLi.net
人間が機械のように常にすでに倫理的だったら、よもまつだろ
善を志向する生き方をするということ、「よく生きる」というアリストテレスの命題は、
それが必ず不断に挫折することと、その挫折を不断に乗り越えて再び善を目指そうとすること、
つまり人間本性（human nature）が倫理性と反倫理・非倫理を共に内包することを示している