【小学生でもわかる】AIに任せていいのはどこまで？Jevの自信ランプで「任せる・確かめる・人へ」を決める

どんな話？

自信ランプ（confidence）は、割合が1つの候補にどれだけ集まっているかを表す0〜1の数字で、「どれ？」と「何点？」の札にだけ付きます。練習ステージで送金アプリの質問カードを出すと、「さっきの件」は自信0.49で人へ。ところが送金のやり方をたずねた文は、自信0.98で「送金を承認したい」になりました。線は操作の重さで変え、送金は明るくても確かめる。候補の説明を直すとランプも変わるので、直したら前に通っていた文も流し直します。

この記事でわかること

• 自信ランプ（confidence）は「どれ？」と「何点？」の札に付く0〜1の数字。割合が1つの候補に集まっているほど明るい。はい度には付かない
• 「どれ？」の札のランプは、説明書の図の式（候補の数 × いちばん大きい割合 − 1）÷（候補の数 − 1）とほぼ合った。同じ0.66でも、2択なら0.32、3択なら0.49、7択なら0.60
• 道は3つ。任せる・確かめる・人へ。線は1つの数字ではなく、操作の重さで変える
• 明るくても、まちがえる。送金のやり方をたずねた文が、自信0.98で「送金を承認したい」になった。重い操作は、明るくても確かめる
• 候補の説明を直すと、ランプも変わる（「さっきの件」は0.49→0.67）。直したら、前に通っていた文も全部流し直す
• 線の数字は、説明書の中でもページによって割れている（送金は0.9と0.85、人に回す下限は0.5と0.6）。自分の例で試して決める

こんな人に

• AIに問い合わせや申し込みの仕分けを任せはじめて、「この判定を、そのまま実行していいのか」で手が止まった人
• 自信の数字が0.9なら任せていいのか、0.6なら人が見るべきなのか迷う人
• 自分の仕事の操作ごとに「任せる・確かめる・人へ」の線を、紙1枚に書きたい人

この話のTIPS

• 注意ランプが明るくても、まちがえます。練習ステージで、送金のやり方をたずねただけの文が、自信0.98で「送金を承認したい」と判定されました。自信ランプは、割合が1つの候補にどれだけ集まっているかを表す数字で、正しさの保証ではありません。
• コツ書き直したら、流し直す。候補の説明を1か所でも直したら、前に通っていた文も全部流し直して、行き先が変わっていないかを見てください。