「AIと一緒に“正しさを自動化した世界”を作ってみた話」

Slide 1｜タイトル（約30秒）
今日は
「AIと一緒に“正しさを自動化した世界”を作ってみた話」
をします。
技術発表ではないです。
論文でもないです。
AIで遊んでたら、
思想が丸見えになった話です。
（間を置いて）
ちなみに安心してください。
コードは1行も出てきません。
（軽く笑い）
Slide 2｜きっかけ（約1.5分）
きっかけは単純で、
ChatGPTが流行ってたじゃないですか。
「せっかくだし、
何か作ってみるか」
くらいの軽い気持ちでした。
絵は無理。
音楽はセンス要る。
で、残ったのが
小説だったんですよね。
文字だし、
最悪どうにかなるかなって。
（少し間）
……この判断が、
一番正しくなかったかもしれません。
（笑い）
Slide 3｜AIに投げた問い（約2分）
最初にAIに投げた問いが、これです。
「正しい判断を全部自動化したら、
人は幸せになるのか？」
なんか、それっぽいですよね。
AIが得意そう。
エンジニア的にも
「それやりたいよね」ってなるやつ。
人が迷わなくていい世界。
判断ミスも減る。
正直、
便利そうじゃないですか。
（少し間）
この時点では、
まだ地獄になるとは思ってませんでした。
Slide 4｜AIが作りやすい世界（約2分）
で、AIが作り始めた世界が、
だいたいこんな感じです。
判断が速い。
ミスが減る。
感情はノイズ。
正解は常に表示される。
途中から
「これSFというより
要件定義書では？」
って思いました。
（笑い）
AI、こういう世界、
めちゃくちゃノリノリなんですよ。
Slide 5｜ログ風スライド（約1.5分）

［ 自動判断ログ ］

判断　　　　　：即時実行
迷い　　　　　：検出されませんでした
納得　　　　　：未確認
責任　　　　　：発生
対応　　　　　：人間に委譲
……はい。
（間を取る）
責任だけ、
人間に返ってくる仕様です。
（笑い）
「迷いは無いです」
「納得は知りません」
「でも責任は発生します」
これ見た瞬間、
あ、AIだなってなりました。
Slide 6｜おかしくなり始める（約2分）
作っていくうちに、
だんだん違和感が出てきました。
判断は全部正しい。
でも、
誰も納得してない。
正解なのに、
後味が悪い。
（少し間）
そこで気づいたのが、これです。
「正しさが速すぎると、
人が追いつかない」
レスポンスは0ミリ秒なんですけど、
心のロードが終わってない。
（笑い）
Slide 7｜人間がやったこと（約3分）
ここからが一番大事なところです。
AIは、
すぐこう言ってきます。
「分かりやすくしましょう」
「ちゃんと救いましょう」
「気持ちよく終わらせましょう」
……全部、
却下しました。
（笑い）
分かりやすくしすぎない。
キャラを簡単に救わない。
気持ちよく終わらせない。
（少し間を置いて）
一番しんどい判断、
AIじゃなくて
人間がやりました。
ここ、しっかり間を取ってください。
拍手が起きやすいです。
Slide 8｜結論（約2分）
今日の結論です。
AIは答えを出す。
人間は責任を引き受ける。
AIは
「正しいですね」って言ってくれます。
でも
「それで後悔しない？」
とは言ってくれません。
これは創作でも、
仕事でも、
たぶん同じです。
Slide 9｜最後の一言（約30秒）
最後に。
AIで作ってみたら、
自分が
何を正しいと思っているか
逆にバレました。
（軽く笑い）
AI、便利なんですけど、
思想監査ツールとしても
かなり優秀です。
以上です。
ありがとうございました