RedditユーザーがAppleのCSAMツールをリバースエンジニアリングし、アルゴリズムがすでに存在していることを発見

  [[418306]]

今月初め、アップルはエコシステム全体に新たな子どもの安全機能を導入すると発表したと海外メディアが報じた。この取り組みの一環として、クパチーノを拠点とする同社は、デバイス上の機械学習を使用してiCloudおよびメッセージアプリ上のコンテンツをスキャンし、児童性的虐待の可能性のあるコンテンツ（CSAM）を検出する予定だ。

批判を受けて、Appleはデバイス上の機械学習とNeuralHashと呼ばれるアルゴリズムを使用してCSAMに対抗するアプローチを概説した6ページの文書を公開した。

Appleはさらに、CSAM検出モジュールを開発中であり、問​​題があるとフラグが立てられた画像のみをスキャンすると述べた。

しかし、最新の展開では、好奇心旺盛な Reddit ユーザーが Apple の隠し API にアクセスし、NeuralHash アルゴリズムをリバース エンジニアリングしました。驚いたことに、このアルゴリズムは iOS 14.3 の時点ですでに Apple のエコシステムに存在していたことが判明しました。 CSAM は比較的最近の出来事なので、これには眉をひそめる人もいるかもしれないが、ユーザーは、この発見が正当であると信じる十分な理由があると指摘した。

まず、モデル ファイルにはすべて NeuralHashv3b というプレフィックスが付いていることがわかります。これは、Apple の 6 ページの命名規則に従っています。第二に、非公開のソースコードでは、Apple のドキュメントに記載されているハッシュ合成のプロセスと同じプロセスが使用されていることにも気付きました。 3 番目に、Apple は、自社のハッシュ方式は画像のサイズや圧縮にほとんど左右されないハッシュを作成すると主張しており、これは Reddit ユーザーがソース コードで発見したものでもあり、NeuralHash が実際にソース コードの奥深くに隠されていたという彼らの信念をさらに強固なものにしています。

Redditユーザーはこの発見をGitHubに投稿した。エクスポートされたモデル ファイルは公開していませんが、モデルを抽出してデプロイ可能な ONNX ランタイム形式に変換するプロセスの概要を説明しました。モデルをエクスポートした後、推論をテスト実行し、サンプル画像を提示しました。

Reddit ユーザーによると、ハッシュは数ビットを除いてすべてのデバイスで同じであり、NeuralHash は浮動小数点計算を処理し、その精度はハードウェアに大きく依存するため、これは予想される動作です。同氏は、Apple は今後のデータベース照合アルゴリズムでこれらの違いに対応する可能性が高いと付け加えた。

Reddit ユーザーは、NeuralHash の仕組みとユーザーのプライバシーへの影響について、今こそ詳しく調べる良い機会だと考えています。