20250706
前二著は結構楽観的というか、まあ歴史家としての本領といった感じがしたのだが、今回は生成まわりのテクノロジー全般を指して
Alien Intelligence と呼称してみたりしてやや opinionated な調子が上下巻を通して感じられた
主な主張としては、これまでサピエンスが発明/開発してきたテクノロジーは、それそのものが行為主体となることはなかったのが、今回の技術は技術そのものが行為主体となり、そしてその行為主体は有機生命体としての人間とは違った思考パターンで情報ネットワークのノードとして参戦してくるのだぞ、という
わかりやすい喩えとして、タイプライターはそれそのものが
聖書を書き出したり、デマを書き出したりすることはないし、
ラジオはそれそのものが
玉音放送を鳴らしたりはしないわけだが、昨今の生成技術はそれそのものが主体となって胸をうつ詩のようなものを書き出してくるし、ヘイトに塗れたプロパガンダめいた何かを書き出したりもしてくるわけだ
そこにはアライメント問題があり、作者は
クラウゼヴィッツを引き合いに、いかに最終目的を置くのが難しいかということを説くが、まさしくそれは最近個人的にもこの
AI なるものと触れ合っていて感じる問題で、ざっくり言うとアイツラは隙あらばサボろうとしてくる.....とおもう
作中ではもっと重い話だったけど、個人的には AI が肝心の実装をモックで済ませて「できた！」って言ってきたりするのが本当にダルくて、しかしこれはつまるところアライメント問題で、私には最終的に作りたいもののビジョンがあるというか、目的を内面化できているのだけど(もしかしたらそこのプロンプトちからが足りてないのかもしれないが)アイツラはアライメント問題を抱えているので「ぽいもの」と「ソレ」の違いを見分けられない....と感じる
しかし、それは単に自然言語のやりとりでは空間の許容誤差が大きめだから実用に足りるものが、プログラム言語という人工言語においてはその許容誤差が小さいので実用に足りえないということなのかもしれない
世の中に楽観論者が多いから、敢えて悲観論的な語りをしているのかもしれないが、個人的には楽観寄りで、どうしても世の中は社会実装におけるハレーションに目がいきがちに感じるが、
Alpha Go がかつてそうしたように、そして Alpha Go 以降の棋士たちが AI 技術を受容しているように、学術領域で人間の発見できていなかった研究/発明をどんどんやっていってくれるとおもっている
そして、それの一つの到達点は自己修正ができるようになることで、今は
Google や
OpenAI、
Anthropic の閉じた環境で改良が行われているんだろうが、いずれはそこの枠を超えて自己改良をしていくようになっていくんじゃないかなあとおもっている
もちろん、作中で言及されていた
ペーパークリップのシナリオは当然起こりうることだろうが、ペーパークリップのように0-100でそれが起きるわけではないはずで、どこかしかでそれすらも超越してくるんじゃないかと信じている
そうなんです、こういうことこういうこと......
プリルンの記憶喪失はもうちょい引っ張るかなあ、とおもっていたが割とすんなり解決.....ではあるのだが、解決がもう1億点で、一番好きなソリューションでした
むちゃくちゃ好きな演出として、誰かが歌いはじめたところに歌声が重なりあって....みたいなのがあって(例えば
星のうたに想いをこめての終盤)、今回もそれで、マジに嗚咽が漏れそうになるのを堪えるので精一杯だった
ベタっちゃベタやけど、ひとまずうたの悲しみ顔を見なくて済むし助かる
.....ところで、今回は
チョッキリ団の敵失やったけど、チョッキリ団のガバナンス大丈夫か？
プリルンと
メロロンが集めてるリボンはクラヤミンダー産なわけで、チャレンジする度に削られていってるわけですけども.....
