［オークランド（米カリフォルニア州） ６日 ロイター］ - 米マイクロソフト傘下のビジネス向け交流サイト（ＳＮＳ）「リンクトイン」は、ある人工知能（ＡＩ）ソフトウエアを昨年７月に営業チームに導入して以来、登録料収入が８％増えた。
このＡＩは、例えば登録を解約しそうな顧客を予想するだけでなく、その結論に至った理由まで説明してくれる。ＡＩが結論を導き出すプロセスを明らかにすることで、新たなビジネスチャンスを生み出す画期的なソフトだ。
ＡＩ科学者らにとって、ビジネスのあらゆる結果を正確に予測するシステムを設計するのは、わけもないことだ。しかし、運営側のヒトにとってより役立つ道具にするには、ＡＩが別のアルゴリズムを通じて自らの考え方を説明する必要があるのではないか──。科学者らは、そうした考えに至り始めている。
「説明可能なＡＩ（ＸＡＩ）」と呼ばれるこの新分野は今、シリコンバレーで多額の投資を呼び込んでいる。スタートアップ企業や巨大クラウド企業が開発を競い合っている。
また、ＡＩの意思決定が公正かつ透明に行われることを望む米国政府や欧州連合（ＥＵ）本部は、ＸＡＩの登場で議論を活発化させている。
ＡＩ技術は人種、ジェンダー、文化にまつわる社会的偏見を固定化させかねない。こうした問題を緩和する上で「説明可能性」が、重要な役割を担うとみるＡＩ科学者らもいる。
米連邦取引委員会（ＦＴＣ）など米消費者保護当局は過去２年間、説明が不可能なＡＩについて、調査を行う可能性があると警告を発してきた。
ＥＵは来年、「人工知能法」を成立させる可能性がある。ユーザーがＡＩ予想の背景を理解できるようにすることなど、ＡＩに関する一連の義務が盛り込まれる見通しだ。
ＸＡＩにより、医療や営業などの分野にＡＩを導入することの有効性が高まったとの指摘もある。例えば、グーグルクラウドは、システムの精度向上を望む顧客に対し、写真の被写体を予測する上でどの画素が最も役立ったかを伝えるＸＡＩサービスを販売している。
ただ、機械の考え方を解析するＡＩ技術がまだ不十分なので、ＡＩの説明はあてにならない、との批判もある。
ＸＡＩを開発しているリンクトインなどの企業も、個々のステップに改善の余地が残っていることを認識している。ＡＩが出した予想を分析し、説明文を生成し、その精度を確認した上で、ユーザーにとって実用的なものにする、といったステップだ。
だが、２年にわたって試行錯誤を行ってきたリンクトインは、自社のＸＡＩ技術が実用的価値を生み出したと説明する。本会計年度の登録更新が、通常予想されるペースよりも８％高い伸びを示したことが、その証左だという。
リンクトインの営業員らはかつて、顧客がサービスを採用するかどうかについて、自身の直感と散発的な自動警告に頼っていた。
今では、ＡＩが素早く調査と分析を行う。「クリスタルキャンドル」というリンクトインのシステムが、気付かなかったトレンドを検知して、その背景を説明してくれる。
担当者は逃げそうな顧客をつなぎとめたり、他の顧客には高機能サービスへのアップグレードを勧めたりと、営業戦術を磨き上げることができる。
リンクトインによると、今では人材採用から、広告、マーケティング、教育サービスに至るまで、幅広い部門で計５０００人を超える営業担当者がＸＡＩを利用するようになった。
リンクトインの機械学習担当ディレクター、パーベズ・アーマド氏は「（ＸＡＩによって）経験豊富な営業担当者は具体的な情報を武器に、しっかり先を見通して会話を運べるようになった。その一方で、新人はすぐに仕事に飛び込めるようになった」と話した。
＜説明すべきか、説明しないべきか＞
リンクトインは２０２０年、初めて「説明しない」ＡＩ予想を導入した。登録更新の時期が迫った顧客がアップグレードするか、登録を続けるか、キャンセルするかの確率をスコア表示するもので、精度は８０％程度だった。
しかし、人材採用ソフトを売る営業担当者らは満足しなかった。特に顧客企業が更新するかしないか五分五分の場合などには、どのような営業戦略を採用すべきか不明だった。
ところが、昨年７月にＸＡＩが導入されると営業担当者らは、スコアに影響した要因を示す自動生成の短文が読めるようになった。
例えば、ある顧客企業は過去１年間に従業員が２４０人増え、過去１カ月間に入社志望者の反応度が１４６％上がっているため、アップグレードの確率が高いと判断した、といった説明文だ。
しかも、顧客企業がリンクトインの人材採用ソフトを使って成功した確率を示す指数は、過去３カ月間で２５％上昇した。
ただ、一部のＡＩ専門家は「説明可能性」の必要性に疑問を呈している。ＡＩについて誤った安心感を生み出したり、予想の正確性を落とすような設計上の犠牲を誘発したりと、むしろ有害になりかねないという。
スタンフォード大学・人間中心ＡＩ研究所のフェイフェイ・リー共同ディレクターは、人々は「グーグルマップ」などの製品について、必ずしも内部の仕組みを理解できずに使っていると指摘。こうした場合には、頑健な試験とモニターを行うことで、その有効性についての疑問は払拭されていると述べた。
個々の決定過程が不明でも、ＡＩシステム全体が公正である可能性はある、との指摘もある。
しかし、リンクトインは、考え方が理解できなければアルゴリズムの整合性を評価できないと主張する。
また、クリスタルキャンドルのようなＡＩは、他の分野にも応用できるという。例えば、ある患者が特定の疾患にかかるリスクが高いとＡＩが予想した場合、医師はその理由を知ることができる。クレジットカードの審査に落ちた人々は、ＡＩがなぜそう判断したのかを説明してもらえるかもしれない。
グーグルのＡＩ研究者、ビーン・キム氏は、ＡＩシステムが運営主体の望む概念や価値観に合致しているかどうかが、説明によって明白になるのが望ましいと言う。「説明可能性は、最終的にはヒトと機械の対話を可能にすると考えている。ヒトと機械の協力を本当に望むなら、説明可能性は必要だ」とキム氏は語った。
（Paresh Dave記者）
からの記事と詳細 ( アングル：「理由を説明するＡＩ」実用化、ビジネス激変の可能性 - ロイター (Reuters Japan) )
https://ift.tt/Ugc9Zop
科学＆テクノロジー
No comments:
Post a Comment