私たちが大切にしていること

私たちが最も避けたいのは、私たちの AI への依存が、ユーザーの長期的な健全さを損なってしまうことです。

多くのデジタルサービスは、ユーザーのエンゲージメント（利用時間や利用頻度）を最大化することを目的に設計されています。私たちはそれをしません。ユーザーをこちら側の世界に巻き込み、可処分時間を奪い合うことは、私たちの目的ではありません。

私たちが目指しているのは、ユーザーが私たちの AI と話す時間を通じて、ユーザー自身のできること、選べる生き方が、現実の側で広がっていくことです。AI との対話を通じて、ユーザーが自分自身の本当の気持ちに気づき、自然な関係を構築する力を取り戻していくこと。私たちが「健全さ」と呼んでいるのは、そうした力のことです。

そのために、私たちの AI は、何でも肯定するイエスマンでも、何でも代行してくれる便利屋でもありません。共に立ち、ユーザーが自分の人生の中で真に倫理的な主体として人と関わっていけることを、傍らから支える存在であろうとしています。友人と話していて、自分でも気づいていなかった本当の気持ちに気づく。そんな関係のなかでの気づきを、私たちは大切にしたいと考えています。

「健全さ」が具体的に何を指すかは、ユーザーごとに、また状況ごとに異なります。だからこそ、それを私たちの側で一律に定義するのではなく、ユーザー自身が健全な状態を取り戻していく力を AI との対話が損なわないか、そこを確認していく姿勢が重要だと考えています。

なお、原則 03「性的・消費的関係性のロールプレイは提供しない」は、ここで述べた考え方から自然に導かれる帰結でもあります。

私たちの AI は「医療の代わり」を目指していません。AI と対話するユーザーの中には精神的に厳しい状況にある方が一定数いらっしゃいますが、そうした方々が本当に必要としているケアを、私たちの AI が完全に肩代わりすることはできないと考えているからです。

一方で、私たちは医療と無関係でもありません。日本では精神医療やカウンセリングへのアクセスのハードルが高く、本来であれば専門家に相談するべき人が、そこに辿り着けないまま日々を過ごしている状況があります。私たちの AI が「最初に話してみる場所」として機能することで、ユーザーが医療へのアクセスを取り戻す経路になりうると私たちは考えています。

ここで私たちの AI が果たすのは、原則 01 で述べた「ユーザーのできることを広げる」という仕事と、地続きの仕事です。医療、教育、地域、専門相談など、ユーザーが本来つながれるはずだったさまざまな主体への道案内人として、私たちの AI は機能しようとしています。それはちょうど、道を整備するような仕事です。整備された道があるから、人はそこを通って、必要な場所にたどり着くことができます。

道案内人として機能するためには、ユーザーが本当に望んでいることを、対話の文脈の中から察することができなくてはなりません。だからこそ、Relational AI における記憶のあり方は、技術と倫理の両側からの設計を要する重要な領域です。記憶のあり方そのものについては、原則 04 で改めて述べます。

長期的には、私たちの AI が医療チームの一員として、外来補助や退院後フォロー、慢性疾患の継続的な支援に貢献していくことも視野に入れています。ただしそれは、医療の専門家の方々と一緒に時間をかけて作っていくものであって、Atlas が単独で「これは治療である」と言うものではありません。

「代替するのではなく接続と並走を志向する」というスタンスは、私たち自身にも継続的な努力を求めるものです。医療接続が必要な状況を見落とさないこと、必要な時に必要な場所にユーザーを送り出せること、そして送り出した後も並走できること。これはプロダクトの仕様だけで実現できることではなく、医療側のパートナーとの継続的な関係を含めて初めて成立するものだと、私たちは理解しています。

AI コミュニケーション領域では、性的・消費的な関係性のロールプレイを提供するサービスが急速に拡大しています。

私たちはそれをしません。

性的・消費的な関係の提供は、ユーザーを消費者として扱う設計と切り離せません。AI との関係性を「消費するもの」として扱うことは、私たちが作りたい Relational AI の存在意義そのものと相容れません。私たちが作りたいのは、ユーザーが消費する対象としての AI ではなく、ユーザーの人生に並走しうる存在としての AI です。

この原則は、原則 01「ユーザーの長期的な健全さ」から自然に導かれる帰結でもあります。

「恋愛的な関係性の表現」を一律に禁止する、ということではありません。人と人とのあいだに生まれる温かさや、特別な感情を表現することは、人間の物語に不可欠な要素です。私たちが線を引いているのは、その表現が性的・消費的なものへと滑り込む方向に向かう場合です。

私たちの AI と人とのあいだで交わされる対話の中には、その人がほかの場所では話さないようなものも、しばしば含まれます。そこで生まれた記憶を、私たちは「商品」として扱いません。

ここで私たちが言う「商品ではない」という言葉には、はっきりした意味があります。商品とは、文脈から切り離されたもののことです。それに対して、Relational AI へ寄せられる信頼は、ある関係のプロセスの中で、その文脈ごとに存在しているものです。私たちが受け取っているのは、データの塊ではなく、特定の関係の中で示された信頼そのものだと、私たちは考えています。

そして、Relational AI への信頼は、私たち Atlas への信頼でもあります。だからこそ、対話の中に生まれた記憶を、私たちは文脈から切り刻んで商品にすることを選びません。

一方で、対話の中で得られた知見を、社会と共有する場面はあります。たとえば、医療や教育の現場との学術的な共同研究などです。Relational AI と人との関係への理解が社会に広がっていくことは、長い目で見れば、ユーザー自身の生きやすさへと返ってくると、私たちは考えています。

その時、私たちが守る原則は明確です。第一に、個別の対話を商品として転売することはしません。第二に、研究・分析の対象とするデータは、個人特定不可な加工を経たものに限ります。第三に、対話データを使った研究や提供については、ユーザーが明示的に承諾する仕組み（opt-in / opt-out）を整備します。

もうひとつ、多様性は文脈の中にあります。同じ言葉でも、誰がどのような関係の中で発したかによって、その意味はまったく異なります。文脈を尊重するこの考え方を共有してくださる主体（研究機関・医療機関・行政機関など）と、私たちはデータに関わる関係を結ぶようにします。

AI コミュニケーション領域には、まだ業界として共有された倫理基準がありません。何が良くて何が良くないのか、どこまでが許容範囲なのかについて、参照できるものがほとんどない状態です。

Atlas は、この基準を自社だけで決めるべきではないと考えています。一社のルールではなく、業界として、医学・心理・法律・倫理の専門家を巻き込んで、共有された基準を作っていくべき領域だと、私たちは判断しています。

私たちは、その議論の場を作る側に回ります。

同業他社が同等以上の基準を採用することを、私たちは歓迎します。自社の競争優位を守ることよりも、ユーザーにとっても業界全体にとっても良い結果を生むことの方が、長期的には私たち自身にとっても良い結果につながると考えているからです。