コンピュータのコトバ
チャットGPTが脚光を浴びています。チャットGPTは米オープンAIが公開した対話型人工知能（AI）であり、高度な対話能力を備え、世界に衝撃を与えました。しかし勘違いしてはならないのは、「①コンピュータが人間と同じ方法で言葉を理解し会話する」ことと、「②コンピュータが人間と同じ方法で言葉を理解し会話しているように見えること」は全く違います。現在は後者の状況であり、前者については当然のことながら、未だに実現できていません。
AIの機械学習とは、膨大なデータの中からパターンを発見し、新しいデータに対して分類や予測をする技術ですが、問題もあります。第1に、学習に用いたデータに性能が依存することです。例えば、「その医者は自分の子供と遊んだ。」という日本語は、翻訳システムで「The doctor played with his child.」と変換されました。「医者」や「自分」の性別が明確でないにもかかわらず、代名詞が「his」に訳されたりします。学習に用いられたデータにおいて、医者が男性を示す状況が多かったためと思われます。ちなみに、「医者」を「秘書」に置き換えると、「his」が「her」になったりします。よくAIが差別的な表現を発することが問題となりますが、学習に用いたデータに偏りがあるものと思われます。
第2に、なぜAIがそのアウトプットを選んだのか説明できず、ブラックボックスになってしまうことです。AIがデータのどのような側面に焦点を当てているかは明確ではなく、思いがけない意外な法則性を利用している可能性もあります。そのような意味で、機械学習を利用して開発されるAIは、結果を完全に予測することはできません。あくまでもAIはデータから導かれる一番あり得そうと思われるものをアウトプットしているだけです。中身がよく分からないということは、AIが間違いを起こしたときに、原因や改善点を見つけることが難しいことを意味します。
AIは人々の生産性を向上させ、知的活動を支援できる可能性がありそうです。しかし一方で、ニセ情報の拡散や人々の思考意欲を奪うというリスクもあります。技術は諸刃の剣です。ますます進化するAIに対して、その限界を押さえつつ、全肯定するのでもなく全否定するのでもなく、人間が賢くコントロールする状態でありたいものです。（蹴人）
|
