ハリー・シャムが清華大学の記録を破り、ビデオを通じて任命された史上初の教授となり、説明可能なAIを訴える

この記事はAI新メディアQuantum Bit（公開アカウントID：QbitAI）より許可を得て転載しています。転載の際は出典元にご連絡ください。

今朝、マイクロソフトを退職したハリー・シャム氏が清華大学との契約を正式に更新し、同大学で初めて授業を行った。

沈向陽氏は昨年11月にマイクロソフトを退職したが、今週のほんの数日前、清華大学に再雇用され、清華大学での肩書は清華大学高等研究院の兼任教授となっている。

清華大学の邱勇学長は、ビデオ会議の形式で任命式が行われ、学長がオンラインで任命状を発行するのは清華大学の歴史上初めてだと述べた。

任命式は中国と米国で行われた。学長とスタッフは北京の清華大学I字ホールに、沈向陽博士はシアトルの清華大学グローバルイノベーション研究所（GIX）ビル127号室に出席した。

邱勇会長も「このように楊向先生にお会いするのは初めてです。楊向先生は画面上でとてもハンサムに見えます。以前よりもハンサムになっています」と冗談を言った。

「再任」と呼ばれるのは、実はこれが沈向陽氏にとって清華大学での2度目の任命式だからである。沈向陽氏は2005年に初めて清華大学高等研究院の兼任教授に採用された。それから15年が経った。

任命式の後、沈向陽氏はZoomライブブロードキャストプラットフォームを使用して、「エンジニアリング責任あるAI」をテーマにした講義を行いました。

沈向陽氏は、AIは現在社会のあらゆる分野で利用されており、人々は意思決定にAIを利用していると述べた。しかし現在、AI はすでに私たちが理解できない決定を下しています。

多くの AI システムはブラックボックスのようなものです。つまり、AI は決定を下しますが、なぜそうするのかはわかりません。

したがって、責任ある AI が重要であり、AI を作成するすべての人が AI 作成のいくつかの原則を理解する必要があります。

その後、Shen Xiangyang氏はAIとAIバイアスの説明に焦点を当てました。

説明可能な AI に関して、Shen Xiangyang 氏は AI がハスキー犬とオオカミを区別する例を挙げました。

以下の 6 枚の写真のうち、左下隅の写真のみが誤って識別されました。

しかし実際には、AI は私たちが理解しているように外見で動物を識別しないかもしれません。その識別方法は次のようになります。

AIの判断は、写真の動物部分ではなく、動物以外の部分に基づいて行われます。

したがって、説明可能な AI は非常に重要です。そうでなければ、AI がこの不正な方法を使用してハスキー犬とオオカミを区別する可能性があることに気付くことはありません。

偏見に関しては、沈向陽氏は性別による偏見の例を挙げた。

ある人は、顔認識システムが、化粧をしていない女性や髪が短い女性、真面目な表情の女性の写真では認識精度が低いが、それ以外の人の写真では比較的精度が高いことを発見しました。

単語の埋め込みでは、問題はさらに明白です。

同じ説明で、テキスト内に「she/her」などの女性名詞が使用されている場合、AI はテキストが教師について説明していると判断します。

she/her が he/his/him などの男性名詞になった場合、AI はテキストが弁護士について説明していると判断します。

典型的な例は「彼は優秀、彼女は素敵」です。

単語埋め込みシステムでは、主語が「彼女」と「彼」の場合、表示される単語が異なります。

彼女は「姉」で彼は「兄」、彼女は「看護師」で彼は「医者」です。これに関して、沈向陽は「何もおかしいところはないのですか？」と不満を漏らしました。彼女は「主婦」、彼は「プログラマー」。彼女は「OMG」と言い、彼は「WTF」と言った。彼女は「フェミニスト」、彼は「現実主義者」。彼女は「妊娠」、彼は「腎臓結石」を患っている。...

これは単語の埋め込みにおける偏りであり、多くの場合、人々はそれについて考えずに使用します。

最後に、沈向陽教授は、我々はAIと共存する最初の世代の人類であり、AIをどのように構築し、どのように使用するか決定しなければならないと結論付けました。人間が理解できない決定を AI が下す世界を私たちは受け入れられるでしょうか?