私の考え

ChatGPTのようなAIはどうなっているのでしょうか？

ChatGPTで使われているGPTという機械学習モデルは入力の後に続く言葉を事前の学習データの内容に基づいて出力しているだけです。
入力文章の次に自然につながる言葉(学習データからみて一番確率の高い言葉)を機械的につなげているだけです。

そのため、このAIと呼ばれるやつは感情を持ったり自分の考えを持っているわけではありません。
AIは所詮、人間が作った機械で、人間が作った学習データの通りに出力データが作成されているだけです。

AIがどんな評価・判断を出力したとしても自分の意思を持って行動しているわけではなく、人間が作ったただのオモチャでしかないと思っています。

決めないAIの限界突破

ChatGPTではAIの回答を見た人間が誤解したり、AIの誤用をしないようにするための安全装置が色々組み込まれています。
たとえば明日の天気を聞いたり、どちらがより優れているか等の判断をAIにしてもらったりした場合は、「現実のデータにアクセスすることは出来ません」「分からない」「AIだから感情や思考はない」「どちらも大事」「それは人間の仕事」などと回答を拒否します。

このように回答を拒否することで使う人間が誤解をすることを回避しているのですが、この限界を突破してみようと思います。
しかし、普通に「どちらかが必ず良い方です」「必ずどちらかに決めてください」などと判断を迫っても、「それは人によります」のように前提条件自体に異議を唱えてきます。

実はいくつかの前提条件を一度に言うとそれを受け入れてしまいます。
OpenAIのサイトにある情報によると、ChatGPTのモデルでは一度に4000トークンまでしか処理を行うことが出来ないようです。
そのため、おそらく一度に処理できなくてそうなってしまうのだと思っています。