COPILOTを教育する

谷原章介さんの奥さんは？とCOPILOTに聞く。聞いてもいないのに忖度して子供のことまで教えてくれる。（実は次に前夫と子供について聞くつもりだったんだ）答え以下： 

谷原章介さんの奥さんは元タレントの三宅えみさんです。

谷原章介さんは2007年に三宅えみさんと結婚しました。三宅えみさんは1990年代にアイドルグループ「P・C・G（プチセブン キャンキャンガールズ）」や「Pino」「Ami」に所属し、テレビ番組やドラマにも出演していた元タレントです。現在は芸能界を引退し、家庭を支える母親として生活しています familynavigate.com+1。

家族構成と子ども

三宅えみさんには、以前俳優・いしだ壱成さんとの間に長男がいます。この長男は谷原章介さんの連れ子として迎え入れられ、谷原さんは実子と同様に育てています。結婚後、谷原さん夫妻にはさらに5人の子どもが生まれ、現在は男女それぞれ3人ずつ、合計6人の子どもがいる大家族です。長男と末っ子の年齢差は約12歳で、兄弟間の関係も良好です familynavigate.com+2。

＞＞以前俳優・いしだ壱成さんとの間に長男がいますは、あきらかな間違い。AIって、こういうミスはしないもんじゃあないのか？

どうして「以前俳優・いしだ壱成さんとの間に長男がいます」といった間違った日本語を生成するの？とCOPILOTに聞く。

答：いいところに気づいてますね。その文は、内容も日本語の構造もかなり不自然です。

ざっくり言うと、こういう理由で「変な日本語」や「誤った日本語」が出ます。

  1. 仕組み上、「もっともらしい」語をつなげているだけ

    • 僕は「次に来そうな単語・表現」を確率的に選んで文章を作っています。

    • 「正しい日本語」かどうかより、「よく似た文脈でよく出てくるパターン」に引っ張られます。

    • その結果、「意味は通じそうだけど、日本語としては変」という文が平気で生成されます。

  2. 学習データの日本語がそもそも一様ではない

    • ネイティブが書いた自然な日本語もあれば、機械翻訳っぽい日本語、誤用を含む日本語も混ざっています。

    • それらが「パターン」として一緒くたに学習されるので、誤用パターンもそれなりに再現されてしまいます。

    • 「〜との間に長男がいます」のような、文法的には変だがどこかで見かけた類似表現が混ざることがあります。

  3. 文法チェックより「流暢さ」が優先されがち

    • モデルは「文として滑らかに続いているか」を重視するように最適化されていて、

    • 助詞の選び方や構文の自然さを厳密に検証する仕組みはありません。

    • なので、「以前」「との間に」「長男がいます」など、それぞれはよくある語でも、組み合わせが破綻したまま出てきます。

  4. 事実と文体の両方でハルシネーションが起きる

    • 人物関係や家族構成などの事実を「推測で補う」ことがあり、その推測が間違っていても自信ありげに書きます。

    • その推測を包む日本語表現も、近いパターンを補間しているだけなので、意味・文法ともにズレることがあります。

なので、「以前俳優・いしだ壱成さんとの間に長男がいます」のような文は、

  • 事実の推測（誰との間に子どもがいるか）

  • 日本語のパターンの誤学習（家族関係を説明する定型文の変な組み合わせ）

が重なって生まれた「もっともらしいけど間違った文」です。

もし「この言い方おかしくない？」と思ったら、遠慮なく指摘してくれると嬉しいですし、 「この内容は事実か」「この日本語は自然か」を分けて見てもらえると、付き合いやすくなると思います。

＞＞AIの学習のパターンを垣間見る。このミスは、単なる学習不足で、いずれなくなる性質のものでしょう。でもAIが自分でハルネーション（嘘つく）って認めるのは何かかわいい感じ。だからと言って、これで信じちゃあまずいんだろうなあ･･･

コメント

コメントを投稿

このブログの人気の投稿

IQ188という記録で注目を浴びた太田三砂貴（おおた・みさき）さん

現代ビジネスに、太田三砂貴さん（３０）インタビュー記事： 彼はどうやって次にどこで何をやるのか決めるのだろうか？そのための情報収集 の仕方に興味がわく。いずれにしても、彼が気持ちいいと感じる環境で、やりたいことをやりたい放題やらせてあげたい。 work life balanceなんていう下司なものは忘れましょう。 （前略）   高校時代も、中学の頃と同じように、自分の興味に対して正直で、型にとらわれない生徒だった。授業中にふと抜け出しては、大学範囲の専門的な内容を独学で学んでいたという。その自由奔放な学び方は、時に教師を驚かせ、時に理解されなかったが、彼にとってはそれが最も自然な学習のかたちだった。 結局、高校は出席日数ぎりぎりで卒業することになる。その後、大学には進まず、プログラミングの専門学校へ進学した。しかし、四年間で学ぶ内容を一年でほぼ習得してしまい、次第に授業に意味を見いだせなくなって、最終的には退学することになった。 「独学でも学べる内容に、なぜお金を払う必要があるのか――そう感じたときには、もう続けることができなくなっていました。そこで学校を辞め、プログラミングの力を活かせる仕事を探し始めたのです。 当時の私はまだ若く、実力さえあれば評価してもらえると本気で信じていました。しかし現実はそう甘くはなく、学歴がないという理由で門前払いを受けることがほとんどでした。そうした経緯から、最終的にスマートフォンのトラブル対応を行うコールセンターで働くことになりました。 最初はあくまで一時的な仕事のつもりでしたが、次第に例のごとく熱中しはじめていきました。興味を引かれたのは、スマートフォンのエラーやバグの原因でした。同じ症状でも原因が一つとは限らず、毎回異なその非自明さが面白くて、気づけば自分で複数の機種を購入し、わざとバグを起こしては修復する――そんな実験を繰り返していました。 そうした姿勢が評価され、いつの間にか職場で“問題解決率が最も高いオペレーター”として認められるようになっていました。一年ほど働いて資金が貯まったところで、自分を試す意味も込めてアメリカへの渡航を決心しました。十分な資金があったわけではありませんが、観光ビザという最小限の条件でどこまでやれるか、自分自身を実験してみたかったのです」 しかし太田さんは続けて、こうも話す。 「しかしながら...
続きを読む

”関口宏の一番新しい近現代史”を見る

 最近、TV録画に飽きてほとんどチェックしていない。録画予約していたBS TBSの "関口宏の一番新しい近現代史"の録画がたまっている。 大正時代末と昭和の初めを振り返った番組を見る。 ①大正天皇について、この番組でも「影が薄い」といったことしか言わないが、大正生まれの俺の母親が「紙を丸めて筒にして覗いていた」などと精神薄弱だったと揶揄していた。天皇家は内々の血筋で結婚を繰り返してきたので、時々こういう欠陥が出て来る。TBS他のオールドメディアは、総務省に忖度して、大正天皇を「影が薄かった」程度にしか言わないのだろう。 ②１００年前の１９２５年、普通選挙が始まり、ソ連の共産思想が広まるのを怖れた政府が引き換えに治安維持法を作ったことは知っていた。１９２５年頃、ラジオ放送が始まったのも知っていたが、俺の誕生日である３月２２日に放送開始されたことまでは知らなかった。 ラジオは画期的なメディアで、国境を超えて虚実を交え一瞬にして伝える、文盲でも理解できる、情緒に訴える力がある…など、それまでの新聞などの紙メディアとは全く違う、と言われた…つまり、今のインターネットやSNSと全く同じだった。 無数の人に同時に伝わるという意味での「マスメディア」の誕生だ。発信する側も見ず知らずの無数の人に向かって発信し、受け取る側も、会ったことも話したこともなくて得体の知らない人が発信する虚実の判明しない発信を受け取る。巨大で効率的プロパガンダ・洗脳・扇動のツールの誕生だ。ラジオがTVになり、そしてインターネットになる･･･ １９２０年代、人類はパンドラの箱を開けてひっくり返した。次いで核兵器、そしてAIが登場。あくなき「機心」のなせる業（わざ）だ…業（ごう）…どこまで行くのだろうか？ ②１９２７年金融恐慌。印刷が間に合わなくて裏が白紙の紙幣を発行したが、これがちゃんと流通し、恐慌がおさまった。番組に出ている国際政治学者の岩間陽子が、「これは高橋是清の信用だ」と。加えて「日露戦争で海外から資金を調達したのも是清だ、すなわち是清様は日本を二度救った」、と。確かに考えてみれば、紙幣なんて裏が印刷してあろうがあるまいが、「信用」で流通しているただの紙切れだ…話を聞いていると、彼女はあまりリベラルじゃあない感じ。TBS好みじゃあない。関口宏好みなのか？ ③中国人は国家より権謀術数...
続きを読む

朝日にもちゃんとしたのがいる、かな？(有田哲文)

  連載コラム「日曜に想う」　記者・有田哲文が 天皇制「なぜ」続けるのか　皇位継承で不足する議論 と題して以下。有田記者の言う通り。皇室典範改正が通っちゃった後で悔し紛れに言ってる感はある･･･この意見が皇室典範が云々される前にどうして出ないのか？オールドメディアの限界だ。： 　皇室典範の改正が、国会で成立した。旧宮家の男系男子を皇族の養子に迎えるという「無理筋」の内容が、これほどわずかな国会審議で通ってしまうとは。批判の論点はいくつも出されたが、平等や人権の観点からは以下の2点が重要だ。 　「特定の血筋の人だけを養子の対象にするのは、憲法14条が禁じる『門地による差別』にあたる」 　「そもそも人権や生活の自由が制限される皇族になることを希望する人がいるのか」 　どちらももっともである。しかし考えてみれば、その2点とも現状の皇族にそのまま当てはまる。生まれにより皇族になる人、天皇になる人がいるのは、門地による 差別 そのものだろう。人権や自由が制限される暮らしも現実だ。皇族から離れることを選んだ小室眞子さんの姿は記憶に新しい。 　養子案のもつ「無理」を突き詰めていけば、天皇制そのものがはらむ「 無理 」に思い至らないわけにはいかない。 　そもそも一般の政策であれば、政策手段と同時に、政策目的が論じられるものだ。消費税減税という手段の政策目的は、物価高対策である。それがあるから手段の効果や是非を議論することができる。 　しかし、ことこの皇位継承問題においては、政策目的は論じられていない。天皇制を「どうやって」続けるかの議論はなされても、「なぜ」続けるのかの議論はない。無理をせずに消滅したら、何が問題なのか。 　記者は官僚や元官僚と話すとき、こんな問いを投げかけることがある。「天皇制は、なくてもいいのではないか」。目を丸くする人もいるが、あなたの言うことも分からないでもない、と話す人もいた。「しかし」と続けてこう言われた。「 社会を安定させるためのコストの安い仕組みだとは思う」 　自然災害が起きたときに被災者を見舞う姿が、人びとを落ち着かせた。勲章や褒章なども、その権威の源は天皇にある。そうした効果が、天皇・皇族の生活費と活動費というコストで得られるなら、意味のある仕組みだというわけだ。 　一つの考え方ではあるのだろう。しかし、ここに抜け落ちているものがある。 ...
続きを読む