#832 作ることと運用すること

作ることが簡単になるとしよう。しかし、作ることとそれを維持することっていうのは、似ているようで、そして近しいようで、結構全然違うものだ。もちろん、スキル的には全く違うことに比べれば近しい部分はあるけれども、一緒ではないし違う部分もあるし、またそのメンタリティーとか適性においても、つまりそれが向いている人と向いていない人っていうのはもちろんいるわけだ。

面白いのは、それが向いている性格であるみたいな個人差みたいなものを一旦なくすことができるという部分があるかもしれないね。しかし、とにかく何かを作ったとしても、それを維持するというのは実は作るより大変だったりする。それは今まででもそうだったし、そしてソフトウェアを作るということがある程度すごく簡単になった今においては、ますますその傾向は強くなるだろう。

つまり、何かとりあえず動くものを作るというのはすごく簡単だけれども、それに問題がないかどうか、つまり運用していく時に問題が起きないかどうか、そこには様々な問題、様々なトラブル、意図せないトラブルであるとか、意図を持って悪意のある行為をしてくる人みたいなのもいるだろうし、いろんな問題があるわけだ。特に、そういったトラブルがどうあり得るのかということについては、やっぱり経験というものが意味をなしている部分というのは強かったように思う。

しかし、その経験というものもまた、AIが持っている、抱えている知識によって何か解決し得るのであれば、それはそれでいいだろうし、実際、現状でもある程度の暗黙知というか、「暗黙知」と言ってしまうと、本当の暗黙知は言語化もされていないわけだから、そうすると言語モデルのAIはそれを学んでいないはずなので、本当に本当の意味での暗黙知というものはそこにはないはずだけれども、そこまでではなくて、情報が散在していて、なかなか系統的に学ぶのが難しい分野であるとか、そういったノウハウであるとか、そういうものをある程度、少なくとも全く知らない素人の状態よりは、何も知らずにやるよりは、多少そこにハルシネーションみたいなものが混ざっていたとしても、やらないよりは、知らないよりはマシということはもちろんあるだろう。

悪い影響が出てしまうということもあると思う。実際、ハルシネーションが下がってきたとか、これだけすごく役に立つみたいなことを言われているけれども、実際毎日使っていると、相変わらず全然違うことを言うというか、全然事実と異なることを言うことは非常に多いし、それを差し引いて使うというか、それが分かっているからこそ、いかにそれを前提として使えるような用途を考えるのかみたいなことが、まず一つあるだろうと思う。