0549
SIGNAL › テクノロジー
No.0549

GoogleのAI、手話を読んでテキストに変換できるようになった

ADVERTISEMENT

出典:Google DeepMind Blog

音声認識がここまで普及した理由を、最初の目的地から説明できる人は少ない。1990年代に実用化が始まったころ、音声認識の主な想定ユーザーは手の不自由な人々や医療現場の書き起こし需要だった。それが今や、スマートスピーカーで天気を確認し、カーナビに目的地を叫び、会議の文字起こしを自動化する基盤技術になっている。テクノロジーは最初の受益者を踏み台にして、想定外の場所へ広がっていく。

その同じパターンが、今まさに手話認識の領域で始まろうとしている。

Google DeepMindが発表したSL2T(Sign Language to Text)は、手話の動作をリアルタイムでテキストに変換するAIモデルだ。ろう者・難聴者向けのアクセシビリティ機能として開発されたものだが、その技術的な射程はアクセシビリティにとどまらない。人間がコンピュータに意図を伝える手段として、テキスト・音声に次ぐ第三の入力経路が実用水準に達したということを意味する。

これがどれほど大きな転換かを理解するには、手話というものの性質から入る必要がある。手話は「手の形を並べたもの」ではない。手・腕・体幹・頭・顔が同時に動き、それらの組み合わせが意味をなす独立した自然言語だ。音声認識が音を文字に変換するのとは異なり、手話認識は固有の文法と語彙を持つ別言語を機械翻訳する作業に近い。これが手話AIの開発を長年困難にさせてきた根本的な理由だ。

SL2Tはその壁をどう越えたか。50以上の手話言語・10万時間超のデータで学習させ、従来の中間表記を経由せずにランドマーク座標列から直接テキストへ変換する設計を採用した。主要ベンチマークでこれまでの最高スコアを更新し、GboardとLive Transcribeに実装される形で製品化まで到達した。

注目すべきは、この技術がすでに製品に乗った点だ。Pixel 11から提供が始まり、ASL(アメリカ手話)から英語への変換機能として実際のユーザーの手元に届く。研究レベルの精度向上だけでなく、ストリーミング遅延の最小化、左利きへの対応、非署名時の誤動作抑制といった実用上の問題にも取り組んだ上での製品化だ。

音声認識が普及したとき、恩恵を受けたのはハンズフリー通話の需要だった。その後、Siriになり、Alexaになり、会議の文字起こしになった。動作入力が実用化された今、同じ曲線がどこへ伸びるかは、まだ誰にも見えていない。


3行まとめ

  • Google DeepMindが手話をテキストに変換するAIモデル「SL2T」を開発し、50以上の手話言語・10万時間超のデータで学習させた
  • GboardおよびLive TranscribeにASLから英語への変換機能として搭載され、Pixel 11から提供が始まる
  • 主要ベンチマークFLEURS-ASLでゼロショット70 BLEURTを達成し、これまで報告された中で最高スコアを記録した

※以下は詳細

ADVERTISEMENT

SL2Tとは何をするモデルか

SL2Tは、手話の動作をリアルタイムで解析してテキストに変換するモデルです。音声認識(Speech-to-Text)の手話版に相当します。ろう者や難聴者がスマートフォンを通じて手話で入力し、テキストとしてやり取りできるようになります。

プライバシー保護の観点から、SL2Tは映像そのものを処理しません。端末上のモデル(MediaPipe Holistic)が身体の骨格座標(ポーズランドマーク)を取得し、その幾何学的データのみがサーバーに送信されます。元の映像は端末上でその場に破棄されます。

どこで、いつから使えるのか

SL2TはGboardとLive Transcribeに組み込まれ、Pixel 11から提供が始まります。まずASLから英語への変換機能として提供され、対応デバイスおよび対応言語は順次拡大される予定です。

Gboardでは、通常のタイピングの代わりに手話で入力することができます。ウェブ検索・メッセージ作成・Geminiへの指示などに使用できます。Live Transcribeでは、会話への返答を手話でサインする形で利用できます。

手話AI開発の技術的な背景

手話のAI処理が難しかった主な理由は、手話が手・腕・体幹・頭・顔の同時的な動きを組み合わせた独立した自然言語であることです。音声の文字起こしとは異なり、固有の文法と語彙を持つ言語間の機械翻訳を必要とします。

SL2Tは、従来の研究で広く使われてきた「グロス」と呼ばれる中間表記を経由せず、ランドマーク座標列から直接テキストへ変換する設計を採用しています。これにより語彙の制約が取り除かれ、データ量に応じて翻訳品質が向上する仕組みになっています。

学習には50以上の手話言語・10万時間超のデータが使われており、うち約4分の1がASLのデータです。複数言語・方言・習熟度レベルを混合して学習させることで、単一言語モデルを上回る性能を実現しています。主要ベンチマークのFLEURS-ASLにおいて、SL2Tはゼロショットで70 BLEURTを達成しており、これまで報告された中で最も高いスコアです。

実装上の取り組み

製品化にあたっては、精度評価以外の課題にも対応が行われました。左利きの署名者(全体の約10%)への公平な対応、非署名時の誤動作(ハルシネーション)の抑制、片手署名への対応が実装上の課題として取り上げられています。また、実際の使用環境に対応するためのストリーミング遅延の最小化にも取り組んでいます。

全体まとめ

Google DeepMindが手話をテキストに変換するAIモデル「SL2T」を発表し、GboardおよびLive TranscribeにASLから英語への変換機能として実装しました。Pixel 11から提供が始まり、対応デバイスと対応言語は順次拡大される予定です。プライバシー保護のため映像は端末上で処理され、サーバーには骨格座標データのみが送信されます。50以上の手話言語・10万時間超のデータで学習したモデルは、主要ベンチマークで従来の最高スコアを更新しており、ストリーミング遅延の最小化や左利き対応など実用上の課題にも取り組んだ上で製品化されています。

ADVERTISEMENT
NEXT READS
SIGNALへ戻る
— END OF ARTICLE —
SIGNAL