幅広い学びが土台にあった創業までの道のり
心理学や中国古典を学んだ学生時代
学生時代は心理学だったり、中国の古典だったり、数学だったりと、幅広く勉強していました。もともとそうした学びの土台がある中で、それをどこかで社会に活かせないかとずっと考え続けていたんです。
AIの登場で理論を社会に活かす
そんな中でAIが登場したことで、これまで持っていた理論を社会に活かせるかもしれないと考えるようになり、検討を重ねる中で現在の技術を着想しました。 掘り下げていくと、これは社会のためになると分かったので、創業するしかないという流れで会社を立ち上げた経緯になります。
数学の証明から見えてくること
未解決問題が解けたと言われる理由
分かりやすい説明として、AIが登場してから数学の未解決問題が解決したというニュースを耳にすることがあると思います。実は、これらのニュースにはLean4という、Microsoft Researchで開発が始まったプログラムによって機械的に検証しているものがあるんですね。論文として正式に認められる前の段階なのに、なぜ未解決問題が解決したと言われるのか、不思議に思う方もいるかもしれません。
Lean4は、何を「100%正しい」と確認するのか
Lean4というのは、形式化された証明が、定められた前提と論理規則のもとで正しいことを機械的に検証することができるプログラムです。人間の論文はどれだけ優れたものであっても、ヒューマンエラーが入り込む可能性がある以上、原理的に100%正しいとは言い切れません。ですがLean4の場合は、形式化された範囲で論理的に正しいことが保証されるため、これを通った時点で証明が機械的に検証できたと見なされるんです。
中学生の頃に習った「三角形の内角の和は180度になる」という証明を例にすると分かりやすいかもしれません。三角形の底辺と平行な補助線を引くと、錯角が一致して一直線上の角度と等しくなるという説明の仕方をすると思います。形式検証というのは、この前提条件から結果が導けるかどうかを一つひとつ機械的に確認していく技術です。つまり100%というのは、その前提条件のもとで命題が数学的に検証できるかという話にあたります。
前提条件が間違っていれば結論も間違う
ここで面白いのは、前提条件そのものが誤っていれば、たとえ「三角形の内角の和は180度」という正しい結論であっても、証明としては結論の正しさを保証できないということです。Lean4が確認できるのは、数学的に正しいということそのものではなく、与えられた前提条件のもとで命題がきちんと成立しているかどうか、ということになります。
AIのブラックボックス問題への向き合い方
ブラックボックスはそのままでいい
AIについてよく言われるブラックボックス問題は、AIがなぜその判断をしたのか分からないという点が問題視されています。GoogleやMicrosoftのようなビッグテック企業は、AIがどうしてその判断に至ったのかを追跡するXAI(説明可能なAI)という技術に力を入れています。ただ、AIの判断がどれだけ追跡できたとしても、多くのAIには確率論的な判断が含まれているため、最後まで100%正しいとは言い切れません。99.99%正しいという判断だったとしても、残りの0.01%が命に関わる場面で1万回に1回でも間違えれば、それは人が一人亡くなるかもしれないという話になります。つまり、高い責任が求められる領域では、XAIだけでは運用しきれないというのが実情です。
判断結果だけを形式検証する
そこで弊社の技術は、AIのブラックボックスそのものは、一定の条件のもとではブラックボックスのままでよいという立場を取っています。大事なのは、AIが出力した結果が、医療や物流等の間違えられない業界分野で定められている基準や閾値をきちんとクリアしているかどうかを、外側から形式検証することです。この形式検証で定められた条件への適合が 確認されたものであれば、その定めた範囲内で、 AIに判断を委ねる自律型の運用に回すことができる、という提案をする技術になっています。
日本で先駆ける、 AIアシュアランスという技術
海外では当たり前の言葉
この技術は大きな枠組みでいうとAIガバナンスと呼ばれる分野に含まれますが、その中でも弊社はAIによる業務判断を正式運用で採用する前に、条件や証拠を機械検証する 「AIアシュアランス技術（AIの品質保証技術）」を打ち立てています。少なくとも公開情報で確認できる範囲では、弊社は日本で最も早い段階から、AIアシュアランスを具体的な実装技術として掲げてきた企業の一つだと考えています。 この言葉自体は弊社の造語ではなく、海外ではすでに広く使われている言葉なのですが、日本ではまだ十分に流通していません。
EU AI法という高いハードル
その背景には、ヨーロッパで本格的に運用が始まろうとしているEU AI法があります。この法律は、禁止されたAI利用などの重大な違反があった 場合、最大で3,500万ユーロまたは前年度の全世界売上の7%相当の制裁金が課され得るという、かなり厳しい内容です。たとえば全世界の売上が5兆円ほどのグローバル企業で考えた場合、その7%というと数千億円規模の制裁金になる計算です。日本ではまだあまり話題になっていませんが、欧州では2026年8月2日から一部規定の適用・執行が始まっているので、 AIガバナンスという大きな括りだけでは対応しきれず、AIの信頼性やリスクを実際に検証するAIアシュアランスへの関心も高まっています 。市場規模としては、Forbes JAPANでも紹介された海外レポートにおいて、 2030年ごろに2,760億ドルほどになると予測されていて、弊社はこの分野で日本ではかなり早い段階から取り組めていると感じています。
「責任が蒸発しない」仕組みをつくる
前提条件が崩れた時を検知する技術
弊社の技術にはもう一つ特徴があって、事前に検証対象として定義され、観測可能になっている前提条件が崩れたことを数学的に検知する仕組みも備えています。通常のルールをすべてクリアしている状態であっても、どこかで前提条件そのものが崩れているケースは起こり得ます。そうした場合、前提条件が崩れていることを検知したうえで、その先の意思決定は権限のある人間が引き受けなければならない、という形で技術が止まる仕組みになっています。
ログが残ることで責任が蒸発しない
前提条件が崩れた状態で判断を続けるかどうかは、どちらが正しいという単純な話ではありません。ただ、どちらの意思決定をしたとしても、その判断のログがきちんと残るので、誰が、どこで、どのような証拠と権限に基づいて判断したのかが後から追える技術になっています。これを社会的な言い方にすると「責任OS」と呼んでいて、判断経緯について後から言い逃れができない仕組みをつくる技術だと捉えています。
広島から始まるAIアシュアランス
平和とテクノロジーを考える街
弊社は東京の会社なのですが、最初にお声がけをいただいたのが広島の企業さんでした。広島は自動車産業をはじめとする大手企業がある土地でもありますし、平和とテクノロジーについて考える場所でもあると感じています。
広島AIプロセスとの接点
広島は、G7の枠組みで合意された「広島AIプロセス」の舞台でもあります。安全、安心で信頼できる高度なAIシステムの普及を目的として、国際指針と行動規範からなる初の国際的な政策枠組みとして位置づけられているもので、AIガバナンスというとまず、この広島の合意の話から入ることが多いくらいには世界的な議論において重要な位置づけになっています。
オンザリンクスとの提携
そうした背景もあり、広島で長くハイテク物理関連の事業をされている株式会社オンザリンクスと提携し、広島発のAIアシュアランスという取り組みを、日本発の枠組みとして進めていこうとしています。弊社自身は広島出身というわけではないので、この重みを背負う立場ではないと考えていて、広島発という軸でやっていくのであれば、地元に根ざした企業に担っていただくのが自然だという話をしたところ、オンザリンクスさんが現在設立準備中の広島AIアシュアランス協議会の代表企業として引き受けてくださることになりました。現在は国際発信に向けた準備や、この取り組みに関わるステークホルダーの拡大などを、一つ一つ進めているところです。
医薬品コールドチェーンPoCの成果
オンザリンクスさんとの提携の第一弾として、2026年の7月28日に医薬品コールドチェーン領域の共同PoCの完了を発表し、コードも公開しました。温度記録などの証拠を機械的に検証し、条件を満たした場合のみ引き渡しを承認、後から判定理由を再検証できる仕組みを実装したものです。
2023年の広島AIプロセスで示されたAIガバナンスの理念が、こうして将来のAIアシュアランス・プロトコルの策定を支える、最初の具体的な実装成果にまでつなげることができました。これは、日本発の広島AIプロセスを、AI時代の「企業で動くルール」に変え、日本の産業競争力につなげるための第一歩です。今後は日本の産業が積み上げてきた品質思想や現場に合うルールへと丁寧に進化させて、 広島発、ひいては日本発となる世界標準プロトコルの策定を目指していきたいですね。
学生に向けたメッセージ
責任を引き受ける覚悟を考える
AIとどう付き合っていくかというのは、今の学生さんも社会人も変わらず抱えている課題だと思います。AIが便利になっていく中で、その判断や結果についてどう責任を引き受けていくかを考えることが、これからますます求められていくと感じています。
人に流されない
他の人がこう言ったから、という理由で進む道を選んでしまうと、最終的にその選択の責任を自分で引き受けられなくなってしまうと思うんです。だからこそ、周りに否定されたとしても、自分がよいと思うことをやっていくのがよいのではないかと感じています。これはアドバイスというより、私自身がそう思ってやっているという話に近いかもしれません。
今後のビジョン
弊社の技術が扱っている領域は、EUをはじめとした各国では制度やガイドラインの整備が進んでいる一方で、企業の現場で実際に動かすための対策は、まだ十分にできていない部分だと感じています。そうした中で、解決策となる技術をすでに形にできている状態なので、これを日本発の規格にまで育てていって、AIを安全かつ責任ある形で活用するための品質と信頼性の面で、日本がAI大国と呼ばれるような存在の一助になれたらと考えています。それも、広島発というかたちで、AIのような大きなテクノロジーに対する責任をきちんと示せる枠組みとして育てていければと思っています。
編集後記
数学的な証明の話から、AIの品質保証、そして広島発の取り組みへとつながっていく前木さんのお話は、聞けば聞くほど奥行きを感じるものでした。「後から言い逃れができない仕組みをつくる」という発想は、AI時代に生きる私たち学生にとっても、他人事ではないテーマだと感じます。責任をどう引き受けるかという視点を持って社会に出ていきたいと思わせていただけるお話でした。ありがとうございました。
