OpenAIの現従業員・元従業員が2024年6月4日、AIを開発する企業に対し、AI開発における安全対策と開発に携わる従業員保護、を求める書簡を提出しました。原文を読み解くことで、理解を深めます。
要約
AIの開発・普及がもたらす恩恵だけでなくリスクを理解し、リスク軽減のために適切な対策をとることが必要だが、企業は経済的インセンティブもあり、秘匿情報を抱える傾向にあり、外部への情報共有義務も弱い状況。
効果的な政府監視が必要な中で、従業員が声を上げることも困難であり、書簡という形を用いて、AI企業に対して次に記載する遵守事項を提示。
- リスクに関する懸念を批判したり報復することを禁止すること。
- 従業員がリスクに関する懸念を匿名で報告できるプロセスを整備すること。
- 技術リスクに関する懸念を公衆や規制当局に報告できるようにし、営業秘密を保護すること。
- リスク関連情報を公開した従業員に対する報復を禁止すること。
原文（日本語訳）
現在、そして過去の先進的なAI企業の従業員として、私たちはAI技術が人類に前例のない恩恵をもたらす可能性を信じています。
同時に、これらの技術がもたらす深刻なリスクも理解しています。このリスクには、既存の不平等のさらなる固定化、操作や誤情報の拡散、自律的AIシステムの制御喪失による人類の絶滅の可能性などがあります。これらのリスクについては、AI企業自身も認識しているほか、世界各国の政府や他のAI専門家も認識しています。
私たちは、科学界、政策立案者、そして市民の指導の下で、これらのリスクが十分に軽減されることを期待しています。しかし、AI企業は効果的な監視を回避する強い経済的インセンティブを持っており、特注の企業ガバナンス構造がこの状況を変えるのに十分であるとは思いません。
AI企業は、そのシステムの能力や限界、保護措置の適切性、さまざまな種類のリスクレベルについての非公開情報を大量に持っています。しかし、現在のところ、政府と一部の情報を共有する義務は弱く、市民社会との情報共有義務はありません。彼らが自主的に情報を共有することに全て依存することはできないと考えています。
これらの企業に対する効果的な政府監視が存在しない限り、現在および過去の従業員は、それらを公衆に対して説明責任を果たすことができる数少ない人々の一部です。しかし、広範な機密保持契約が私たちの懸念を声に出すことを妨げており、その懸念を表明できるのは、これらの問題に対処できないかもしれない企業自身に限られています。通常の内部告発者保護は違法行為に焦点を当てているため、私たちが懸念している多くのリスクはまだ規制されていないため、十分ではありません。私たちの中には、業界全体で過去に起きた事例を考慮して、様々な形の報復を合理的に恐れる人もいます。この問題に直面し、または言及するのは私たちが初めてではありません。
したがって、先進的なAI企業に対し、以下の原則にコミットすることを求めます。
- 会社はリスクに関する懸念に対する「誹謗中傷」や批判を禁止する、またはこれらの懸念に対する批判に対して報復し、経済的利益を妨げるような合意を結ばず、執行しないこと。
- 会社は、現在および過去の従業員がリスクに関する懸念を会社の取締役会、規制当局、および関連する専門知識を持つ独立した組織に匿名で確実に報告できるプロセスを促進すること。
- 会社は、オープンな批判文化を支持し、現在および過去の従業員が技術に関するリスク懸念を公衆、会社の取締役会、規制当局、または関連する専門知識を持つ独立した組織に報告できるようにし、営業秘密やその他の知的財産権が適切に保護される限り、これを許可すること。
- 会社は、他のプロセスが失敗した後にリスク関連の機密情報を公に共有した現在および過去の従業員に報復しないこと。リスク関連の懸念を報告するためのあらゆる努力は、機密情報を不要に公開することを避けるべきであることを理解しています。したがって、会社の取締役会、規制当局、および関連する専門知識を持つ独立した組織に匿名で懸念を報告するための適切なプロセスが存在する場合、初期的にはそのプロセスを通じて懸念を報告することを受け入れます。しかし、そのようなプロセスが存在しない限り、現在および過去の従業員は懸念を公に報告する自由を維持すべきです。
ニュースについて一言
AI開発については権威であるジェフリー・ヒントン氏をはじめとして様々な研究者がリスクを主張しているため、最先端を走るAI開発企業においてもガバナンス機能を求められることは必要かと思います。
異なる観点ですが、これまでのインターネット産業が多大な需要のもとで急速に拡大したことは記憶に新しいですが、社会的な責任や社内統治と向き合いつつの成長となる点はAI産業が異なるポイントで、どのような成長過程を歩むかは注視していかなくてはなりません。
