- 741 名前：名無しさん＠１周年 [2017/08/24(木) 18:31:21.35 ID:mfSQE1ic0.net]
- Ｃなどで書かれた通常の手続き型言語のソースコードであっても、
そのコードの意図が解読でき、動作が事前にすべて把握できるなどということはない。
ソースを書いた側であっても、バグを入れてしまうことが良くあるというか普通のことだ。
ＡＩのプログラムは、それが複雑な非線形最適化だとか、ディープなＮＮだとか、
乱数の要素などが入り込んでいたら、何が起きえて、何が起きえないのかを
保証することも、列挙しておくこともできないだろう。
つまり、概ねうまく動いていても、次の日になったら原子炉がそれでメルトダウン
しているかもしれない。解読して理解が出来難いということは、逆にいえば
プログラムにいろんな罠を仕込んであっても、それがまず事前には見破られない
というリスクもあるのではないか？
