中国向け検索エンジン開発でグーグル社内に「内戦」が勃発 今後は「邪悪なこと」も行う?

society 2018/09/28

Point
・中国向け検索エンジン(通称”Dragonfly”)の開発計画を巡ってGoogle社内で「内戦」が勃発し、上層部の意に背いた従業員が退職に追い込まれている
・退職した従業員の一人が上院商務・科学・運輸委員会に宛て、Google社代表の召喚を要請する嘆願書を提出した
・Dragonflyは、個人の電話番号からその人の検索履歴の調査機能や、「学生運動」、「習近平」といった単語のブラックリストといった、検閲システムを搭載している

検閲機能を搭載した中国向け検索エンジンの極秘開発プロジェクトを巡り、Google社内で「内戦」が勃発しています。

これは、このプロジェクトの騒動で先月Google社を退職したジャック・ポールソン氏が、アメリカ上院商務・科学・運輸委員会に宛てた嘆願書の中で明らかになりました。同氏によると、この極秘プロジェクトの情報を公に議論しようとする派閥と、引き続き不透明なままで進めようとする派閥が、社内に存在するそうです。

Dragonflyプロジェクトの機密事項が一人のエンジニアが記した秘密のメモにより社内に広まっていることが社内上層部に知れると、人事部はすぐにこのメモを目にしたと思われる従業員らに対し、メモをコンピューターから直ちに削除するよう指示しました。

Dragonflyとは、中国政府の検閲と監視の要請に応じて作られるGoogle検索エンジンの別バージョンのことです。これまで説明を避けてきたGoogle社でしたが、先日ついにDragonfly(トンボ)プロジェクトの存在を認めました。ただし、プロジェクトの開始まではまだ程遠いことを強調し、いまだ直接的回答を避けています。

以下は、ポールソン氏による嘆願書の日本語訳(一部省略)です。

【上院商務・科学・運輸委員会 メンバー各位】

 

ソーン上院議員は「消費者には情報のプライバシー保護についての明確な回答と基準を知る権利がある」という発言を通じ、近く審問を行う方向であることを示唆しました。

Googleやその他の企業が開発する技術システムの規模と社会的影響を考慮すれば、情報自体に限らず、情報を元に設計・開発されるシステムに関しても、より徹底した管理能力と説明責任が早急に必要だと、私は考えます。

今月の初めまで、私はGoogle社の調査・人工知能部門の上級研究者として働いてきました。私の職務は、数多くの言語でのグーグル検索の正確性を向上させることでした。

上層部が下す非倫理的で不可解な意思決定のパターンの結果として、私は2018年8月31日に辞職を強いられました。このパターンは、彼らがDragonflyプロジェクトに関する情報公開を拒絶した時に頂点に達しました

(中略)

人権保護団体、報道機関、グーグル社の従業員、世間が広く理解しているとおり、Dragonflyプロジェクトは、AI基本方針がうたう「社会に広く受容されている人権保護の原則に抵触する」目的を有する技術を「設計・開発」しないという原則に、真っ向から違反するものです。

Dragonflyプロジェクトの内容で、最も問題があると思われる項目のいくつかを挙げます。

 

・インターフェイスの試作品が、中国政府系企業が個人の電話番号を元にその人物の検索履歴を調べることができるようにデザインされている

 

・中国政府の要請に応じたワードのブラックリストが存在する。その中には、英語の「人権」、北京語の「学生運動」や「ノーベル賞」、「習近平」を含む多数の中国共産党員の名前が含まれている

 

大気汚染情報を検索すると、中国政府が承認したデータのみを表示するためのコードが存在することが明らかである。

 

・プライバシーに関する内部監査プロセスの仕組みが壊滅している。監査員の一人は、監査機能が弱体化していると証言している。

(以下略)

ポールソン氏のこのような訴えは社内でも共有されているものの、徐々に抑圧されてきているようです。彼は「Google社の上層部が、Dragonflyプロジェクト達成のために必要な内部調査を弾圧しようとしていることは、その言動から明らかだ」と述べ、Google社が自身の定めるAI基本方針や、グローバル・ネットワーク・イニシアティブのプライバシー保護の条項をどう満たすつもりでいるのかについて、同委員会の追及を望んでいます。

 

グーグル社のスローガンは、長らく”Don’t Be Evil(邪悪になるな)”でしたが、グーグル社の持株会社であるアルファベット社からは、”Don’t Be Evil”の文言が2018年の5月前後に削除され、”Do the Right Thing(正しいことをしよう)”に置き換わったようです。もしかして「これからは多少の『邪悪なこと』を行わざるを得ない」という上層部の隠れた意図を暗示しているのかもしれません…。

 

グーグル翻訳の精度が上がりすぎて「地球平面説」が小バカにされる?

 

via: businessinsider / translated & text by まりえってぃ

 

SHARE

societyの関連記事

RELATED ARTICLE