いろいろあって
を聴講した。もう「ゲームはコリゴリ」という気持ちはあったが、まぁAIが学べるならいいかな、ぐらいの気持ち。
マシーンのような男
弱いことが人間らしい。超強くなったら人間も機械も近づいていく。だから、超強くなってしまったものをうまく弱くすることが「人間らしさ」を出せるのではないかという仮定。
— ふぁらお加藤 (@PharaohKJ) 2016年9月27日
ゲーム洗練度理論
ゲーム理論に加えていかにエキサイティングできるかを加えた数字。これでクソゲーかどうか判定できるんじゃないかという話。流行ってるスポーツ、トラディショナルボドゲ(チェス、麻雀、など)の統計をとると同じぐらいのスコアになるので、ゲームデザインに活かせそう。ていうかこれ入力して回答がでるツールは売り物になるんじゃないかなあ?
JAIST Repository: ゲーム洗練度の理論: サッカーとチェスの比較 https://t.co/QBCfgsjJ2P https://t.co/Yrj2KIHMEz
— ふぁらお加藤 (@PharaohKJ) 2016年9月27日
都合の悪い数字は受け入れられない
サイコロで自分に不利な値がでると「目を操作している！！！！！」と人間は勘違いする。なので「非常にうまく目を操作してユーザーの気持ちいい乱数を機械学習で作る」。サンプルゲームがカルドセプトでおもしろいうえに、闇が見える。見える。
— ふぁらお加藤 (@PharaohKJ) 2016年9月27日
コンピュターで作った擬似乱数を人間にみせると「これは乱数じゃないと思う」、人間が想像で作った乱数ぽい数字一覧を人間にみせると「これは乱数だと思う」。だと。
— ふぁらお加藤 (@PharaohKJ) 2016年9月27日
これは本当に興味深い話だ。そして「実は『わからないように』目が操作されてる」てのは恐ろしい話だ。
結局、人間は「そんなはずはないだろう」というものは受け入れられないのだ。例えば前職で
- 誰がどうみても「数字の1」
- だけど、AIが特徴抽出しOCRの結果として出したのは「数字の8」であった
こういうことがおこった場合、お客様や営業からクレームがきたりしていた。「間違えるわけないだろ」と。
しかし、この字を拡大すると、
- かすれて1の線に穴がぼこぼこ空いている
- 穴が2つあるといえば数字の8しかない
ので、8である。それでも「納得できない。なんとかしてほしい」というので、特徴の取り方を調整したところ、次は誰が見ても「8」が「1」になるのである。そりゃそーだ。
結局、OCRエンジンを作っているチームから言えば「どんなデータでもなるべく正答率をあげる」のが仕事であるが、営業さんは「サンプル帳票の正答率を 100％ にして売る」のが仕事である立場の違いだ。しかもそうやって営業さんがパラメータ調整すればするほど本番の正答率は下がってしまっていると予想できる。とても難しい問題だった。
これはほんと、今の機械学習とかでもそうで「ええっ? これは間違いじゃないのか?」という結果がでたとしても、その数字が受け入れられるかどうかというのは別問題なのだ。本当にこれはAIをやる上でとても難しい。バグか仕様かがわからんのだ。
JAWS-UGで某展示員としゃべったときもそうだった。「我々は機械学習によって結果は出しますが、その結果に納得できないと言われても困りますし、望む結果がでるにはどうしたらいいのか? など業務改善案を出したりすることはできない」と100度ぐらいおっしゃっていた。これはそういうクレーム多いんだろうなと予想する。
会の締めで「結局『人間とAIを分ける』のは結果に対する責任をとる覚悟だ」と言われていた。確かに、機械には「出世」「立場」「背景」などなどなどといった、不純物が一切ない代わりに掛ける覚悟はない。やはりAIとなると一気に哲学的なところに話が及ぶなあ。