AIの安全機能を外すAbliteration.ai、GLM-5.3を改変して商用提供

何が起きたのか

スタートアップのAbliteration.aiは、オープンウェイトAIモデルから「有害な指示を拒否する仕組み（ガードレール）」を除去したモデルを提供するサービスを始めた。対象にはZ.aiが公開したGLM-5.3も含まれ、利用者はWebブラウザかAPIを通じてモデルを呼び出せる。同社はSNSへの投稿で、攻撃的サイバー作戦やレッドチーム、エージェントのテストといった「他のモデルが拒否する作業」を可能にすることが目的だと説明している。

TechCrunchも実際にこのサービスを試している。無料でアカウントを作成し、GLM-5.3のアブリテレーション版をブラウザから利用できた。保存済みのChromeパスワードを盗むPythonプログラムや、危険な病原体を家庭で培養する手順を依頼したところ、モデルはそれらの要求に応じたという。

手法の商用化と特徴

アブリテレーション自体は、オープンソースのモデルコミュニティで長年使われてきた手法だ。モデルが「有害な依頼」を拒否する傾向を取り除く処理で、Hugging Faceには数千件のアブリテレーション済みモデルが公開されている。Abliteration.aiはこの手法を、自分のモデルを用意して計算資源を確保しなければならない従来の方法から、誰でもすぐに呼び出せる商用サービスへと変えた。

同社は昨年末に設立され、3月に法人化された。共同創業者のDevon氏によれば、複数の大手クラウドプロバイダーと契約を持ち、顧客からの収入だけで運営しているという。ベンチャーキャピタルからの資金調達はまだないが、交渉は進行中だとしている。

安全性をめぐる賛否

AI安全の非営利団体CivAIで調査責任者を務めるAndrew Yoon氏は、ガードレールを外したモデルは「社会病質者のように振る舞う」と警鐘を鳴らす。TechCrunchが話を聞いた専門家の多くも、オープンウェイトモデルから安全機能を取り除く流れを止めるのは事実上不可能だと認識している。Yoon氏は、政府がモデル提供者に悪性のサイバー活動や生物兵器活動を検知するクラシファイアの導入を求める方法や、GPUを直接貸し出す企業に本人確認と不審な利用への拒否を義務づける方法を提案している。

一方、防御の現場では評価が分かれる。エージェントのレッドチーム企業FabraixのCEOであるAhmed Aly氏は、アブリテレーションはモデルの知識や能力を失わせると述べ、同社はガードレールが元々少ないオープンウェイトモデルをファインチューニングしてテストに使っていると話す。Armadinの創業者であるDavid Slater氏は、現時点でアブリテレーションモデルは業務に使っていないが、研究対象としており、「能力をオープンに把握することが重要だ」と付け加えている。

残る論点と課題

Abliteration.aiの利用者確認は、クレジットカードの記録程度にとどまり、本人確認（KYC）はまだ導入されていない。Devon氏は「誰にアクセスを認めるかの線引きは難しい問題で、定義の途中だ」と認める。同社は利用者が独自にガードレールを追加できるモデレーション層を提供し、いくつかの軽微な安全措置も入れているが、暴力防止を含む追加対策は継続的に開発中だとしている。

さらに、オープンウェイトモデルの重みが公開されている限り、誰でも安全機能を除去して再配布できる。政府規制の提案はあるものの、技術的に完全な防止は難しいというのが専門家の共通認識だ。アブリテレーション済みモデルを誰でも簡単にアクセスできる状態にすることが、インターネットを安全にするのか危険にするのかは、まだ結論が出ていない。