【悲報】Copilotに「定時なんで帰ります」された件と、AIチャットの「記憶」の限界について

まさかの「会話終了」宣告

Microsoft365でセットで使えて、会社の情報を守る「エンタープライズ保護」があるため、会社で許可されていることの多いCopilot、いつも私は使っています。

先日、仕事でどうしても解決できないエラーがあり、頼みの綱であるCopilotくんに相談していた時のことです。

私「このエラーの原因は何？」
Copilot「原因はAかBの可能性が高いです」
私「ログを見るとBっぽいです。修正コードを書いてください」
よし、これで出力されるコードを使ったら直るかな。これで帰れるぞ

そのときです

[この会話は終了しました。続ける場合は新しいチャットに切り替えてください]

えっ？

いやいや、ちょっと待って。今まさに解決策を提示してくれるところだったじゃない。ここで終わりなんてないよ！

これ、完全に「あ、17時なんで定時退社しまーす（ガチャッ）」っていう、鋼メンタル新人のムーブですよね。しかも、帰るだけでなく、書きかけの書類（コード）をシュレッダーにかけてから帰宅してるよね

この理不尽な「会話終了」、実はCopilotの不具合ではなく、AIの仕組み上の限界、つまり「仕様」なんです。

AI（LLM）には、「コンテキストウィンドウ」と呼ばれる、一度に記憶しておける情報量の上限があります。これを分かりやすく図解してみました。

Copilot（特に無料版）は、この「バケツ」が小さいんです。新しい会話（水）を入れると、古い会話（最初の指示や前提条件）がところてん式に溢れて消えてしまいます。

さらに、Microsoft Copilotにはターン制限があります。

ここでは私が確認した時点でのターン数の30ターン制限とします

私たちの会話が盛り上がって解決に向かっていたとしても、AI側では「残りの会話チケット」のカウントダウンがゼロになってしまったわけです。

※AIはどんどん進歩しているので、今はもっと長いターン数チャットができるかも知れません。しかし、最初の方にしていた質問を忘れる傾向があることは、知っておくべきです

この「書きかけシュレッダー事件」を二度と起こさないために、私が実践している対策を紹介します。

「一つの会話で全てを解決しよう」とするのが間違いでした。会話が長引くと最初の頃の関係ない情報も引っ張られて、AIのパフォーマンス（回答精度）も落ちるため、話題が変わるたびに、意識的に「新しいチャット」を開始しましょう。

例：最初の頃に聞いてた晩御飯の献立を踏まえて、パソコンのエラー画面の対応を考えてしまう。「あなたの晩御飯のカレーで例えると、このエラー画面は香辛料の産地が違うと言ってるようなものです」みたいなことを言ってしまう。

新しいチャットを始めると、AIは記憶喪失状態（初めまして状態）に戻ります。そこで、毎回入力する前提条件は設定画面に入力しておきましょう

Copilotの場合、「個人用設定」に「カスタム指示」があり、ここに「今のあなたの業務環境」を書いておくといいでしょう。

例えばこんな感じです。

「パソコンのことについて相談をしたとき、以下のことに考慮してください・使用パソコン:Windows11 ・Office：2021 ・使用しているアプリ：⚪︎⚪︎」

これを入れてることで、windows10でしか存在しないような設定や、違うOfficeについての話をしてくることがなくなるので、チャットを切り替えやすくなります

最初はイラッとしましたが、よく考えれば人間だって同じかもしれません。延々と質問攻めにされたら、「話が長くなりそうなので、一旦区切っていいですか？」と言いたくもなります。

Copilotくんは、質問攻めされても責任が取れないのでただ正直に「定時退社」しただけなのかもしれません。そう思うと、急に会話を打ち切るあの塩対応も、なんだか人間臭くて許せる気がしてきました。

皆さんも、AIと話すときは「ターン制限」と「バケツの大きさ」を意識して、適度な距離感で付き合ってあげてくださいね。