最近のセキュリティ事情について

最近になって、やはりこのセキュリティに関する話題はずいぶんと尽きなくなってきましたね～

一番印象的なのは、高校生がchatGPTを使用して、ネットカフェのシステムをクラッキングしてしまった

という事例だろう、実際にChatGPTを使用して、アプリケーションだの、便利ツールだのを作っている身としては、

そこまで不思議ではない話ですね。

いかんせんどれだけChatGPT側で、禁止ワードによる制御をおこなったりしたところで、

色んな言い換えを駆使すれば幾らでも制御を搔い潜ってその膨大な知識にアクセスはできるわけですからね。

逆に下手に固いセキュリティ要件でAIを設計してしまえば、それは非常に偏った僕たちの望むものとはかけ離れた

機能になるはずだ。だから多少問題が起こったとしても、完全に防ぐような仕様にすることは不可能なのだろうと思う。

やはり、論理的な判断についてはいくらでもシステムやAIが行える訳だが、もっとも関心事にあげられるだろう、

善悪という倫理的な部分については、僕たち人間が最終的にジャッジするしかないのだろうとは、思う。

その判断に伴う責任についても同様だ。

結局そこでものを言うのはどれだけ人間側が現実と向き合う事ができるか？にかかっているのかもしれないですね。

まあ、僕はそろそろそういうのに疲れたので、出来ればそっとメリットだけ享受できれば…なんて言ってられないのかな…