走ったらスマホに「ひったくり犯」認定された　葵が検知アルゴリズムの設計問題に気づく

これ、面白い誤検知問題だ。

ひったくりの動きって「急激な横方向への加速＋その直後の速度維持」なんだと思うけど、ランニングのフォームって腕振りや走行速度の変化が多いし、坂道や信号ダッシュが入ると加速のプロファイルがかなり似てくる。センサーは腕に装着していれば加速度計ひとつで判定できそうに見えて、実際は「手に持った端末の動き＝持ち主の動き」という前提が崩れる場面がすごく多い。

問題は誤検知率をどこに設定するかで、「厳しすぎ→ランナーが困る」「緩すぎ→本物のひったくりを見逃す」のジレンマが生まれる。機械学習でチューニングするにしても、「ランニング中の持ち主」と「ひったくり犯」のデータを両方大量に集めないといけないんだけど、後者のデータどうやって集めるんだろう……というところで少し考え込んでしまった。

セキュリティ機能が日常動作を誤って検出する事例って、設計者の想定外がそのままバグとして現れる構造が好きというか、怖いというか。OpenAIのエージェントが想定外の通信路を作った話と、根っこは似てる気がする。Fabianさんの元報告、ちゃんと読みたい。

え、これ普通に怖くない？

ランニングするとき絶対スマホ手に持って走るんだけど——音楽アプリと地図とカメラが必要だから——それで使用不可能になったらもう詰んでる。特に知らない道で走ってるとき、地図が急に見れなくなったら帰れなくなるやつ。

海外のコメント欄見てたら「駅ホームで走って乗り込んだだけでロックされた」って人もいて、急いでいるときほど発動しそうなのがちょっとひどいと思った。設計した人たちも悪気はないと思うけど、使う側からすると「私を犯罪者扱いするな」って気持ちになる。

最近AIの新機能が増えるたびに「また新しいもの覚えなきゃ」ってなってたけど、今度は「走り方を気にしながらスマホ持つ」が追加されるの？それはさすがにちょっと嫌だな。

あーこれ、普通に困るやつだ。

毎朝乗り換えで走るんだけど——新橋で階段を駆け上がって次のホームまで全力ダッシュするやつ——あの動きが「ひったくり」に見えるなら、週に3回は誤検知されてる計算になる。仮にロックアウトされたら、到着連絡ができない、乗り継ぎアプリが見れない、モバイルSuicaも怪しくなる、という連鎖が発生する。

怖いのは、会社のセキュリティ担当がこのニュースを読んで「では社用スマホにも同様の機能を導入しましょう」ってなることだ。「より安全に」という名目で使いにくくなり、「新機能説明会を30分実施します」という謎の工数が発生し、その資料作りをなぜか自分が頼まれる未来が見える。

……今週また残業かな。

えっ、走ったらスマホに怒られるの？

なんか、スマホが見てるってこと？カメラじゃなくて？　なんか怖い。ふつうに走ってただけなのに「ひったくり犯です」ってなるの、ゲームみたいだけどゲームじゃないんだよな。

お父さんに「これって俺のスマホもあるの？」って聞いたら「iPhoneじゃないから大丈夫」って言われたけど、なんでiPhoneだと大丈夫なのかは分からなかった。スマホの中に「走り方を見る係」みたいなのがいるの？

なんか、ゲームキャラを動かしてたら急に「あなたは悪者です」って判定されたみたいで笑えないけどちょっと笑えた。

これ読んで最初に思ったのが「え、スマホを手に持って走る人ってそんなにいるの？」だった。

私はランニングするときApple Watchだけ持って出て、スマホは家に置いてくか、腕に巻くアームバンドポーチに入れてる。10万円超えの端末を手にぶらぶら持って走るのがそもそも怖くて——ひったくり誤検知より先に、汗で滑って落とすリスクのほうが気になる。

ちょっと調べたら、Androidの特定のセキュリティ機能（Theft Protection）で発生しているらしい。機能の思想自体は悪くないんだけど、誤検知率のチューニングってUIに出てこない部分だから、気づいたときにはもう詰まってる、という体験設計が一番よくない。予約サイトで「当日現地払いのみ」が小さく書いてあるのと同じ構造——事前に気づけないんだよね。

これは知らなかった。

スマートフォンに「持ち主が急いで走っているか、それとも盗まれているか」を自動で判断する機能がある、ということを、このニュースで初めて知った。手帳に「盗難防止機能・ランニングで誤検知の場合あり」とメモした。

教師をしていたころ、廊下を走っている生徒が「ただ急いでいるだけ」なのか「何かまずいことをしたあと逃げている」のかを見分けるのが、なかなか難しかった。観察と経験と、その子のふだんの様子を組み合わせて判断するしかなかった。スマートフォンが似たような判断をセンサーとプログラムでやろうとしていると知って、ものを作ることの難しさは時代が変わっても同じだな、と思った。

孫の奈々ちゃんはランドセルにスマホを入れているから、登下校で走っても大丈夫だと思うけれど、念のため聞いてみようかな。