Future of Life Institute (G検定)

1. 定義と概要

Future of Life Institute（FLI）とは、2014年3月に設立された非営利団体（利益の分配を目的とせず、社会的な目的のために活動する組織）です。本部は米カリフォルニア州キャンベルに置かれています。

創設者は、MIT宇宙論者のマックス・テグマーク氏、Skype共同創設者のヤーン・タリン氏、のちにDeepMindの研究者となるヴィクトリヤ・クラコフナ氏の3名です。これに、タフツ大学研究員のメイア・チタ=テグマーク氏、UCSC物理学者のアンソニー・アギーレ氏を加えた5名が創設に携わりました。

目的は、変革的技術を人類に利益をもたらす方向へ導き、大規模なリスク、とりわけ先端AIによる実存的リスクを低減することにあります。

従来、AI開発は主に性能の向上を目的として進められてきました。しかしAIの能力が急速に高まるにつれ、安全性や軍事転用、雇用への影響といった社会的リスクへの懸念も強まっています。

そこでFLIのような研究者主導の非営利団体は、AI開発者や政策立案者、研究者を巻き込みながらガイドラインの策定に取り組んできました。あわせて、公開書簡（特定の相手ではなく社会全体に向けて発表される、賛同者の署名を伴う意見表明の文書）の発表を通じて、早い段階から警鐘を鳴らす活動も行っています。

2. 試験対策ポイント

FLIの代表的な成果の一つが、2017年にアシロマ会議を経て発表されたアシロマAI原則（AI研究者らが2017年に合意した、AI開発の際に踏まえるべき23項目の指針）です。研究課題、倫理と価値観、長期的な課題という3つの領域に23項目が整理されており、多くのAI研究者が署名しました。

研究の初期段階での配慮から、AIが社会に及ぼす長期的な影響までを扱う幅の広さが特徴です。

FLIはこのほか、自律型致死兵器システム（LAWS。人間の判断を介さず、自ら攻撃対象を選んで攻撃できる兵器システム）の開発・使用規制を求める公開書簡を複数回発表してきました。発表の年と内容の対応は、次のように整理できます。

年	公開書簡の内容
2015年	自律型致死兵器システムの規制を求める、研究者による書簡
2017年	同じく規制を求める、企業関係者による国連向けの書簡
2023年	GPT-4を超える能力を持つAIシステムの学習を6か月間停止するよう求める「Pause Giant AI Experiments」

2015年と2017年の書簡は、担い手が研究者と企業関係者に分かれる点で対になっており、あわせて整理しておきたい論点です。2023年の書簡には、著名な研究者や経営者が署名しました。

研究者主導の非営利団体という性格もFLIの特徴の一つです。産業界が中心となって設立した団体や、技術の標準化（仕様や手続きを共通の基準にそろえること）を担う団体とは、設立の経緯や活動の性格が異なります。

3. 関連概念との比較・相違点

Partnership on AIとの最大の違いは、設立母体と立場にあります。FLIは研究者主導で実存的リスクの低減を掲げる非営利団体です。一方でPartnership on AIは、GoogleやMicrosoftなど大手テック企業が中心となって設立した、マルチステークホルダー（企業・研究者・行政など、立場の異なる複数の関係者が共同で参加する形式）の団体です。

同じくAIをめぐる社会的な課題を扱う点は共通していますが、産業界の実務的な視点を軸にするか、研究者による長期的なリスク評価を軸にするかという重心の置き方が異なります。

IEEEとの違いは、活動の性格そのものにあります。FLIは公開書簡や原則の提言を通じた啓発や政策提言が活動の中心であるのに対し、IEEEは電気電子技術の国際的な専門家団体として、AI倫理に関する技術標準の策定に取り組む標準化団体です。

FLIの提言が社会全体への問題提起にとどまるのに対し、IEEEの標準は企業が製品開発の現場で実際に参照する仕様として機能する点が、取り違えやすい点です。

3つの団体の立ち位置を並べると、次のように整理できます。

団体	設立母体・立場	活動の中心
FLI	研究者主導の非営利団体	公開書簡や原則の提言による啓発・政策提言
Partnership on AI	大手テック企業が中心のマルチステークホルダー団体	産業界の実務的な視点からの課題への取り組み
IEEE	電気電子技術の国際的な専門家団体	AI倫理に関する技術標準の策定

いずれもAIをめぐる社会的な課題を扱う点では共通しており、どの立場から関わるかが分かれ目になります。

4. ビジネス・実務での活用シナリオ

AI開発企業においては、アシロマAI原則や自律型致死兵器システムに関する公開書簡への署名が、自社のAI開発方針に安全性や倫理面の配慮を組み込む契機の一つになっています。外部の第三者機関が示した指針に賛同する形をとることで、社内のガイドライン整備に説得力を持たせる効果も生まれました。

政策立案や国際機関の場面では、FLIの提言活動が国連における自律型兵器規制の議論の材料の一つとして参照されるなど、政策形成の前段階にあたるアジェンダ設定に関わってきました。特定の国や企業の利害から距離を置いた研究者主導の提言であることが、各国の政策担当者にとって議論のたたき台として参照しやすい理由の一つです。

研究コミュニティに対しては、AI安全性研究への資金提供、すなわちグラント（研究や活動を支援するために提供される資金援助）を通じて、大学や研究機関における実存的リスク研究を後押ししています。特定の企業から独立した資金源が存在することは、目先の製品開発とは異なる長期的な視点からの研究を可能にする土台になっています。

5. 要点まとめ

• FLIは2014年設立、AIなど先端技術の実存的リスク低減に取り組む研究者主導の非営利団体です。
• 代表的な活動はアシロマAI原則（2017年、23項目）と自律型致死兵器システムの規制を求める公開書簡、2023年のAI開発一時停止を求める公開書簡です。
• 産業界主導のPartnership on AIや標準化団体のIEEEとは、設立母体と活動の性格が異なります。

6. 確認問題