AI安全法案がカリフォルニア州議会を通過

20年以上シリコンバレーの現場を取材してきた経験豊富なテクノロジージャーナリストとして、私は業界を根底から揺るがす画期的なイノベーションや物議を醸す法案をそれなりに見てきました。現在進行中の最新法案である SB 1047 も例外ではありません。

開発者に高度なAIシステムの安全対策を義務付けることを目的とした物議を醸した法案が、法律制定に一歩近づいた。

より簡単に言うと、法案 SB 1047 は、将来の革新的な AI システムの作成者は、発電所などの重要な構造物に対するサイバー攻撃を開始するためにこれらのテクノロジーが悪用されるのを阻止するための安全策を確立する必要があると提案しています。

開発者は安全プロトコルを司法長官に提供する必要があります。彼らが個人的に管理する AI モデルが公共の安全に危害を与えたり、差し迫った危険をもたらしたりした場合、その行為に対する責任を問われる可能性があります。

サンフランシスコ民主党のスコット・ウィーナー上院議員が提案した法案は水曜日、反対９票に対し賛成４１票を獲得し州議会で承認された。木曜日、この提案は州上院で同意投票により承認された。現時点では、ギャビン・ニューサム知事のオフィスに向かって進んでいます。しかし、同氏が法案に署名するか拒否権を発動するかはまだ決まっていない。

「イノベーションと安全性は効果的に組み合わせることができ、カリフォルニア州はその模範を示している」とウィーナー氏は声明で指摘した。

ニューサム氏の報道官は、法案が知事の机に届き次第、知事が法案を評価すると述べた。

ベイエリアの活気に満ちたテクノロジーシーンでは、ウィーナー氏の法案は激しい議論を引き起こした。 AI 安全センター、イーロンマスク (テスラ CEO)、L.A. タイムズ編集委員会、およびサンフランシスコに本拠を置く Anthropic と呼ばれる AI スタートアップ企業はすべて、これへの支持を表明しました。

しかし、この法案は民主党の議会指導者だけでなく、カリフォルニア州内の人工知能の技術進歩を抑制するのではないかとの懸念を表明したメタやオープンAIなどのハイテク大手からも反対に直面した。

ナンシー・ペロシ元議長、フリーモント選出のロー・カンナ下院議員、サンノゼ選出のゾーイ・ロフグレン下院議員ら米国下院の有力民主党議員らは、この法案への反対を表明し、ニューサム知事に法案を拒否するよう勧告した。彼らは、この法律はChatGPTの開発者であるOpenAIなどの企業を擁するカリフォルニア州の繁栄するAIセクターに潜在的に損害を与える可能性があると主張している。さらに、彼らはその姿勢の理由として、AIに焦点を当てた現在進行中の議会の取り組みにも言及しています。

「ニューサム知事への書簡の中で、7人の民主党議員からなるグループは、重大な潜在的リスクを理由に、企業が別の国に拠点を置くことを選択したり、カリフォルニアでの自社モデルの導入を控えたりする可能性があるとの懸念を表明した。」

テクノロジーと映画の交差点に情熱を注ぐ映画ファンとして、私はカリフォルニア州が消費者の権利、データプライバシー、知的財産、その他の重要な側面を守りながらAIの進歩を先導すべきだと強く信じています。しかし、私の見解では、上院法案 1047 は残念ながらこの使命を助けるものではありません。むしろ、責任ある AI 開発を追求する上で、利益よりも害の方が大きいように思えます。

映画評論家として、ウィーナー氏らが反対しているこの法案は諸刃の剣ともてはやされている、と私は言う。彼らは、それがイノベーションを促進すると同時に公共の利益を保護すると主張している。

「水曜日午後の議会の採決の前に、デボン・マティス議員（共和党、バイセイリア）はガードレールを設置する必要があると提案した。彼は、関係者全員が信頼できる人であることを保証することの重要性を強調した。」

SB 1047の支持者らは、SB 1047は高度なAIシステムを使用する開発者に安全性を確保する義務を課していると主張している。この措置により、長期的には有害な AI インシデントの発生を阻止できる可能性があります。

モントリオール大学教授でミラ・ケベック人工知能研究所所長のヨシュア・ベンジオ氏は最近の記者会見で、テクノロジー企業がAIに関連する主要なリスクに独自に対処できない可能性があると懸念を表明した。これは、市場シェアの競争と利益の最大化に集中するあまり、安全性を効果的に確保できない可能性があるためです。同氏はこの状況を学生が自分で宿題を採点していることに例え、彼らだけに頼ることはできず、こうしたリスクを軽減するために積極的な措置を講じるべきだと示唆した。

支持者らは、安全性に懸念がある可能性がある他の分野と同様に、AIも同様に管理されるべきだと主張している。

より簡単に言うと、マスク氏は月曜日のプラットフォームで自身の意見を表明し、カリフォルニア州はAI安全法案であるSB 1047を承認する可能性が高いと述べた。彼は、公衆に害を及ぼす可能性のある製品や技術を規制するのと同じように、20 年以上にわたって人工知能の規制を主張してきました。

過去数日間で、ウィーナー氏による大幅な修正を受けて、州上院委員会で法案の重要な評価が行われた。これらの変更の中には、偽証に対する罰則の削除や、開発者が高度な AI システムの安全性に関して満たさなければならない法的基準の調整などが含まれます。

サンフランシスコに拠点を置くアンスロピック社のダリオ・アモデイ最高経営責任者（CEO）は、8月21日付の書簡の中で、この法案にはコストがかかるかもしれないが、その利益の方が大きい可能性が高いとの考えを表明した。ただし、この書簡はこの法案への支持を表明したものではなく、むしろその潜在的な利点と欠点についての Anthropic の見解を提示したことに注意することが重要です。

「アモデイ氏は、SB 1047が人工知能システムの壊滅的なリスクに関連する真の重要な問題に取り組むことを目的としていると明言した。AI技術の急速な進歩は諸刃の剣であり、カリフォルニア経済に計り知れない可能性をもたらす一方で、重大なリスクももたらす。」

しかし、OpenAIのような一部のハイテク企業は、変更後もこの法案に反対していると述べた。

OpenAIの最高戦略責任者ジェイソン・クォン氏は、8月21日付の書簡の中で、AIが米国の競争力と安全保障に広範囲かつ多大な影響を与えるため、連邦当局が高度なAIモデルに関する規制を確立し施行することが重要であると強調した。同氏は、寄せ集めの州法の代わりに、連邦レベルで統一された一連のAI政策がイノベーションを促進し、米国を世界標準の形成において主導的な立場に置くことができると主張した。

ウィーナー氏は、自身の法案を先取りする強力な連邦AI安全法を歓迎すると述べた。

「過去の経緯を踏まえると、この連邦法の可決は困難になる可能性がある」とウィーナー氏は述べた。「しかし、それまでは、カリフォルニア州はイノベーションを促進し、国民を守るSB 1047のような法律を主張し続けるべきである。」

人工知能に関する約 50 の立法提案のうち、SB 1047 はその 1 つであり、州議会における雇用、ディープフェイク、一般的な安全など、このテクノロジーが社会にどのような影響を与えるかというさまざまな側面に焦点を当てています。

2024-08-29 23:31