どんな話？
架空のカフェの口コミ20件を、同じ頼み方と答えの形で nano と mini に分類させた回です。まとめて頼むと nano は1.93秒、mini は6.91秒。kind の一致は nano 16件、mini 20件。nano は2回とも15〜18件目で、番号はそろったまま中身だけがずれた。確かめ方は、形の点検・見本との突き合わせ・の行と前後を人が読む、の3段。成果物は分類表と「どちらを使うかメモ」です。
この記事でわかること
- mini は「標準対話モデル」、nano は「高速・軽量な対話・抽出モデル」。同じ宛先で、モデルの名前を変えるだけで乗りかえられる。1分の回数は nano 60、mini 6
- 20件をまとめて頼むと、nano は1.93秒（2回目は2.07秒）、mini は6.91秒。トークンはどれも入力314、出力527
- kind の一致は mini が20件中20件、nano が16件。nano は2回とも15〜18件目がずれ、番号は1から20までそろったままだった
- nano に1件ずつ1.5秒おきに送った1回は、1件あたり0.07〜0.18秒で、kind は20件すべてが筆者の判定と一致
- 確かめ方は3段。形の点検、見本との突き合わせ、の行と前後を人が読む。見本は前・中・後ろから散らす
- 1件ずつ送る間は割り算で決め、ゆとりを足す（nano 1.5秒、mini 12秒）。200件なら間の合計は nano 約5分、mini 約40分
やることチェックリスト
0/6記事を読みながら、できたものにチェックを付けていけます。チェックはこの端末に残ります。
ぜんぶできた！おつかれさまでした。
くわしい手順と画面の図は、Xの記事にあります。
こんな人に
- お店のアンケートや口コミが何十件もたまり、「ほめ」「不満」「要望」に分けるだけで午後がつぶれる人
- 速い nano と標準の mini のどちらを選ぶか迷っている人
- AIにまとめて分類を頼んだとき、中身がずれていないかを確かめる手順がほしい人
この話のTIPS
- 注意答えの形は json_schema と enum で決められる。ただし、形が守られることも、中身が正しいことも、保証はない。
- コツ自分の口コミで試すときは、送る前に、自分の答えを先に決めておくのがおすすめです。AIの答えを見てから考えると、それらしい答えに引っぱられて、ずれに気づきにくいから。