【AI】AIが生成する画像を「ネコ」にするサイバー攻撃　絵師らを守る技術「Nightshade」　米シカゴ大が開発 [すらいむ★]

【AI】AIが生成する画像を「ネコ」にするサイバー攻撃　絵師らを守る技術「Nightshade」　米シカゴ大が開発 [すらいむ★] at SCIENCEPLUS

1:すらいむ ★
24/04/16 22:37:35.26 1EZn8uJJ.net
AIが生成する画像を「ネコ」にするサイバー攻撃　絵師らを守る技術「Nightshade」　米シカゴ大が開発
[山下裕毅，ITmedia]

　米シカゴ大学に所属する研究者らが発表した論文「Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models」は、生成AIモデルの無断学習を抑止するために、学習されても予期せぬ動作をAIモデルに生成させる毒入りデータに画像を変換するツールを提案した研究報告である。

　この攻撃は「Nightshade」と名付けられ、約200枚の細工画像をモデルの学習データに紛れ込ませるだけで、特定の単語に関連する画像生成を高確率で操作できてしまう。

（以下略、続きはソースでご確認ください）

itmedia　2024年04月15日 12時00分
URLﾘﾝｸ(www.itmedia.co.jp)

2:名無しのひみつ
24/04/16 22:48:56.78 mzN1ioOe.net
オレが予想したとおりだ

やっぱりねこ攻撃が来たな

3:名無しのひみつ
24/04/16 23:16:22.90 wYc44iNS.net
ﾈｺと和解せよ𓃠

4:名無しのひみつ
24/04/17 00:04:34.63 7M61Ozna.net
これは御褒美

5:名無しのひみつ
24/04/17 00:13:07.60 Yz1dFeSC.net
もう終わりだ猫の国

6:名無しのひみつ
24/04/17 03:53:23.53 mBe0pm/5.net
どう操作しても猫ミームになるAIなら別の需要がありそう

7:名無しのひみつ
24/04/17 04:03:08.83 XAjfkef+.net
これが絵師を守ることにどう繋がるのかが判らん

8:名無しのひみつ
24/04/17 09:45:20.76 rmFvtdyv.net
何でクリエイターだけ守られるの？
過去どれだけの人々が技術革新のせいで職を失ったと思ってる？
電話交換手だったしうちの曾祖母さんに謝れよ

9:名無しのひみつ
24/04/17 11:29:18.96 7zT7ZkhY.net
大分合同新聞のミニ事件簿が捗るなｗ

10:名無しのひみつ
24/04/17 12:11:22.59 mAjBw5CL.net
ナイトシェードってことはベラドンナとかハシリドコロとか。

11:名無しのひみつ
24/04/17 15:26:21.47 AoeQ+3I+.net
これは・・・ケモナー大歓喜では・・・

12:名無しのひみつ
24/04/17 17:20:46.38 3jGGLQxC.net
いいから力抜けよ

13:名無しのひみつ
24/04/17 18:13:04.85 hICc8CdE.net
ﾈｺの国は近づいた

14:名無しのひみつ
24/04/18 11:45:33.14 5XVufmtL.net
>>8
確かに
駅の改札で人が切符切ってたとか若者は知らなさそう

15:名無しのひみつ
24/04/19 16:24:13.37 22oJ0dzE.net
プーさんとかにしろよ

16:名無しのひみつ
24/04/19 18:59:51.30 24UFd5UR.net
終わりだ猫の技術

17:名無しのひみつ
24/04/19 23:35:46.24 6blmcIQJ.net
ネコばかり増えて、タチの人材不足らしいぞ

18:名無しのひみつ
24/04/20 22:56:17.57 9zgh404P.net
にゃんだってーーー