スマートフォンの「脱獄」と同じ言葉ですが、AI分野では「AIの安全装置を外す試み」を指します。現代のAIには「暴力的な内容を教えない」「違法行為を支援しない」といった安全ルールが組み込まれています。ジェイルブレイクは、このルールを巧みな言葉で回…

AIチャットボットに話しかけるとき、私たちは普通に質問や指示を入力します。しかし悪意ある人が、AIの動作ルールを無視させるような特殊な命令を紛れ込ませることがあります。これが「プロンプトインジェクション」です。たとえば、カスタマーサポート用のA…