LINE AI トークサジェストがもたらすプライバシー危機：今こそメッセージングアプリを見直す時

OpenAIが一般公開されてから、どの企業も自社アプリにAIを必死に組み込もうとしているのは、皆さんもご存知だと思います。 LINEもついにトークタブにLINE AI トークサジェストという機能を追加しました（その結果、メッセージ入力欄がさらに狭くなってしまった）。

正直、そろそろLINEから離れる時期だと感じています。

AIは確かに便利で、チャットアプリでも活躍し得るでしょう。 が、今回の（OpenAIをバックエンドにした）AI追加は、LINEユーザーにとって深刻なセキュリティ・プライバシー問題になると考えます。

なぜ問題なのか？

LINEはエンドツーエンド暗号化（E2EE）を採用しているはずです。 簡単に言うと、特別な暗号化技術でメッセージ内容がチャット参加者だけに読める仕組みです。 つまり、親会社の LINEヤフーでさえメッセージを読むことはできません（※実装に関しては私自身もいくつか疑問点があります。 興味があれば付録をご覧ください）。 E2EEは素晴らしい技術です。

その技術のおかげで、LINEはプライベートな会話を安全に行えるアプリとして成立しています。

しかし、今回のAI機能はE2EEの根本的な約束を破ります。

今や、ワンクリックで自分と相手の直近15件のメッセージが第三者、すなわち LINEヤフーとOpenAIに送信されます。 しかも、片方が機能に同意していなくても、そのメッセージまで勝手に送られてしまうのです！

E2EEの安全性は、エンドポイント（ユーザー側のデバイス）の健全さに依存しています。 当たり前のことですが、画面を他人に見せたり、スクリーンショットを撮ったりすれば内容は漏れますし、デバイスがマルウェアに感染していれば平文のまま処理されます。 これのことを「エンドポイント侵害」といいます。

LINE AIトークサジェスト機能は、メッセージを外部に送信することで、まさにエンドポイント侵害と同様のリスクを作り出しています。

だまされないで

LINE AI に送られた情報は、学習やターゲティング広告（追跡広告） に利用されます。 以下は「LINE AIトークサジェストの利用規約」からの抜粋です（執筆時点の文章）。

個々のお客様の興味関心に適した広告の表示

メッセージの送信元は匿名化されず、送信者を特定できる情報とともに送られます。

お客様のプロフィール情報、お客様の内部識別子

保存期間は「サービス終了まで」や「LINEアカウント退会まで」保持されると明記されています。

お客様に関連する各種情報をそれぞれ以下の目的で本サービスの終了までの間取得し、LINEアカウント退会までの間利用します

さらに、OpenAI の利用規約にも同意する形になります（LINE AIの利用規約より引用）。

（6）OpenAI, LLC及びOpenAI OpCo, LLCの利用規約等（https://openai.com/policies/）に抵触する行為

つまり、友人・恋人とのプライベートな相談や、同僚の対話で会社の機密情報まで、AI機能が使われた場合、LINEとOpenAIの両社に見られる可能性があるわけです。

僕の立場

AI全般に反対しているわけではありません。

プライベートではLumoを活用して、仕事で（自社の利用条件の範囲内で）AIを活用しています。 ただ、E2EEのような優れたセキュリティとプライバシー技術を長年推進してきた専門家たちの努力が、企業の「AI至上主義」によって徐々に蝕まれているのは悲劇的なことです。

E2EEは、旧来の「プライバシー保証なし」の通信方式に取って代わる大きな進歩でした。 しかし、今回のAI機能はその進歩を逆行させるものです。

同様の強制的AI導入はWhatsAppなど他のメッセンジャーでも見られ、エンドポイント侵害を狙った手口が広がる恐れがあります。 欧州や世界各地の政府が、児童虐待やテロ対策を言い訳にしてE2EEの安全性を迂回しようとする動きがすでに始まっています。 この問題は決して軽視できません。

過去にCODE BLUEイベントでLINEのセキュリティチームと会ったことがあります。 彼らは真摯で献身的なプロフェッショナルです。 今回のAI機能導入に関しては、彼らは経営陣と長時間議論したはずですが、LINEが掲げるべき理念に反してAIを至る所に入れたいという経営陣の意向が優先されたのだろうなと残念に思います。¹

何ができるか

企業が無思慮にAIを全領域に追加しないことを願いますが、既に手遅れかもしれません。 とはいえ、自分のメッセージングアプリを変えて、周囲にも勧めることはまだ遅くありません。

選択肢は多数ありますが、Signalは比較的使いやすく、実績のあるE2EEメッセージングアプリです。 完璧ではないものの、日常的に求められる機能は揃っており、プライバシーとセキュリティの両面で信頼できます。

LINEをやめる時が来ました。

付録：LINEのE2EEに関して

LINEは独自に開発したエンドツーエンド暗号「Letter Sealing」を使用しています。

自前の暗号アルゴリズムは安全性が保証されにくく、商用利用は一般に強く非推奨です。 セキュリティ業界の常識は、自前よりも、よく検証された標準暗号を使うことです。 僕は暗号研究者ではないので、LINEのアルゴリズムの安全性を直接評価できませんが、五十部准教授が指摘した問題点が報告されています（PDF 参照）。

もう一つの問題は、実装が長らく写真・動画は E2EE されていなかったことです。 つまり、LINEにアップロードした画像や動画はLINE社が閲覧可能な状態でした。 ポリシー上はアクセス不可の対策が取られていたと思いますが、最初から全てにE2EEを実装していれば、2021年の韓国・中国への情報漏洩問題はある程度防げたでしょう。 LINEは約10年かけて、最近になってようやく写真・動画への暗号化対応を行いました。

特に日本政府は DX 推進の一環で、医療を含む様々なサービスでLINEの利用を促進していました。 医療関連でLINEアプリのユーザが写真を撮ったりして、画像がLINEヤフーや関連会社からアクセス可能だった可能性は、プライバシーリスクとして無視できません。