アシロマAI原則 (G検定)

1. 定義と概要

アシロマAI原則とは、2017年1月にFLIが主催した会議Beneficial AI 2017（カリフォルニア州アシロマで開催された、AI研究者や起業家がAIのあり方を議論した会議）で採択された23の原則の総称です。AIが人類全体の利益となることを目指しており、内容は研究課題5原則・倫理と価値13原則・長期的な課題5原則の3分野で構成されています。

AI技術の急速な発展にともない、安全性や軍拡競争、雇用への影響といった懸念が研究者や起業家のあいだで高まりました。こうした懸念の高まりが、この会議が開かれた背景です。

Beneficial AI 2017にはAI研究者や産業界の関係者が集まり、有益なAI開発のあり方について議論を交わしました。合意事項をまとめたものがアシロマAI原則であり、スティーブン・ホーキング博士やイーロン・マスク氏、レイ・カーツワイル博士といった著名人も支持者に名を連ねています。

民間発の原則として国際的な議論の出発点となった点も特徴で、その後は日本政府・EU・OECDなど各国・国際機関による原則策定が相次ぎました。

2. 試験対策ポイント

策定主体はFLIという民間の国際非営利団体です。政府や国際機関が策定した他のAI原則群とは、この主体の性質が異なります。

23原則の内訳は、研究課題5・倫理と価値13・長期的な課題5の3分野です。分野ごとの原則数と代表例の対応は、次のように整理されます。

分野	原則数	代表例
研究課題	5原則	有益な知能の追求
倫理と価値	13原則	安全性・透明性・プライバシーの尊重
長期的な課題	5原則	軍拡競争の回避

研究課題の代表例である「有益な知能の追求」は、人類にとって有益な形でAIの知能を発展させる方向性を指す原則です。数の内訳と各分野の代表例は、それぞれの分野の性格を象徴する内容です。

関連するAI原則群も、策定主体と策定時期とあわせて押さえておきたいところです。

原則・指針	策定主体	策定時期
アシロマAI原則	民間非営利団体のFLI	2017年
人間中心のAI社会原則	日本政府	2019年3月
信頼性を備えたAIのための倫理ガイドライン	EU欧州委員会	2019年4月
AIに関する理事会勧告	OECD	2019年5月

理事会勧告とは、OECDが加盟国に対して行う、法的な強制力はないが政治的な重みを持つ勧告です。策定年はいずれも2017年のアシロマ原則より後で、策定主体が民間団体・一国政府・地域機構・政府間国際機関のどれに当たるかという違いをあわせて整理しておきたいところです。

3. 関連概念との比較・相違点

人間中心のAI社会原則との最大の違いは、策定主体にあります。アシロマAI原則は民間非営利団体のFLIが2017年に採択しました。一方、人間中心のAI社会原則は日本政府の統合イノベーション戦略推進会議（AIを含む科学技術・イノベーション政策の方向性を決める会議体）が2019年3月に決定した、国としての原則です。

AIに関する理事会勧告（OECDのAI原則）との違いも、策定主体という観点から生まれます。アシロマAI原則は世界の研究者・起業家有志による会議発の23原則です。

一方、OECD原則は政府間国際機関が2019年5月に採択した理事会勧告です。5つの価値観に基づく原則と、加盟国政府が取り組む5つの政策提言から成り、法的拘束力はないものの国際的な政治的重みを持ちます。

信頼性を備えたAIのための倫理ガイドラインとの違いも同様に、策定主体の性質から生じています。アシロマAI原則は世界の研究者・起業家有志による会議発です。一方、同ガイドラインはEU欧州委員会が選定したAIハイレベル専門家グループ（AI HLEG、欧州委員会が選定した、AI政策の検討を担う専門家の集まり）が2019年4月にまとめた、地域機構発の指針です。

策定主体が民間団体か、一国政府か、地域機構か、政府間国際機関かという軸で違いが表れます。

4. ビジネス・実務での活用シナリオ

IT・ソフトウェア企業では、自社のAI開発ガイドラインやAI倫理委員会の指針を策定する際、アシロマAI原則の透明性・説明責任の考え方を参考にする例があります。開発の初期段階からリスク評価を組み込むことは、後工程での手戻りや社会的な批判を防ぐという意義を持つ取り組みです。第三者から見ても判断の根拠が分かる体制は、AIサービスに対する社会的な信用を左右します。

研究機関・大学では、新しいAI技術を社会実装する前に、アシロマAI原則が示す長期的な課題（能力に対する警戒、自己改善システムの安全管理）を踏まえたリスク評価プロセスを設ける動きがあります。技術の暴走を防ぐ仕組みをあらかじめ組み込むことは、研究成果に対する社会的な信頼を高める取り組みです。評価の観点をあらかじめ明文化しておくことは、想定外の事態に備える土台です。

スタートアップでは、AIプロダクトを投資家や顧客へ説明する際、アシロマAI原則に沿った形で開発方針の透明性やプライバシー配慮を文書化する例が見られます。第三者にも分かる形で倫理面の配慮を示すことは、資金調達や取引先との信頼関係の構築における重要な要素です。文書として明確な形にしておくことは、社内外の関係者との認識合わせにも役立ちます。

5. 要点まとめ

• アシロマAI原則は2017年にFLIが主催した会議で採択された23原則の総称で、研究課題5・倫理と価値13・長期的な課題5の3分野で構成されます。
• 策定主体は民間非営利団体です。日本政府の人間中心のAI社会原則（2019年3月）、OECDのAIに関する理事会勧告（2019年5月）、EUの信頼性を備えたAIのための倫理ガイドライン（2019年4月）は、いずれも後発の原則群です。政府・地域機構・国際機関という策定主体の違いをあわせて整理しておきたいところです。
• 有益な知能の追求、安全性・透明性・プライバシーの尊重、軍拡競争の回避など、AI開発のあり方を幅広く扱う内容です。

6. 確認問題