シリーズ:27言語の検証記録
インドネシア語:助けを求める叫びを、エンジンは「ありがとう」と書いた
· Zeyu Si
インドネシア語のテスト場面の一つは、カルト集団が家を包囲する場面です。悲鳴の中で、誰かが「Bu, tolong selamatkan anak-anakku, bu!」(「お母さん、どうか子どもたちを助けて!」)と叫びます。メインエンジンの ElevenLabs はこの行を拾いました。同じ瞬間、AssemblyAI は「ありがとう」を意味する「Terima kasih」と書きました。
Gladia はさらに上を行きました。YouTuber の動画の締めの決まり文句「Jangan lupa like share dan subscribe」、つまり「高評価、シェア、チャンネル登録をお忘れなく」を出してきたのです。
どちらも同じことを示しています。音声が乱れすぎて聞き取れなくなると、一部のエンジンは聞き慣れた決まり文句でその穴を埋めるのです。
テスト用の音声
四つの音声はすべて一本の映画 Satan's Slaves(Pengabdi Setan, 2017)からで、聴覚障害者向けのインドネシア語字幕と照らして採点しました。映画を一本にしたのは、YouTube で見つけたほかのインドネシア語の「全編映画」がどれも偽物だったからです。レビュー動画だったり、同じタイトルの別の映画だったり、タイミングが字幕と合わない再編集版だったりしました。
四つの場面は、それぞれ別のものに負荷をかけます。
- 雑誌をめくる場面:下で弦楽器の音楽が鳴り、二人がセリフを次々と投げ合う。
- 家族の夕食:食器のぶつかる音、ふざける弟妹、絶え間ない話者の重なり。
- 助けを求める場面:二人が落ち着いて、家族の話を完全な文で語る。
- 包囲:パニックの悲鳴、雷、ドアを叩き壊そうとする音。
三段階の難易度の尺度では、最初の二つは中間と最上位の間、包囲は最上位、助けを求める場面は易しい側に近く、このセットで唯一のクリアな音声です。
試したエンジン
第一ラウンドは ElevenLabs Scribe v2、AssemblyAI、Doubao、Speechmatics で、記録のために FunASR、Gladia、Deepgram、Soniox、Qwen も並行して動かしました。Gemini は別途テストしました。
エンジンがレッドラインを越えたところ
作り出された文。 冒頭の二つ、AssemblyAI の「ありがとう」と Gladia の「高評価、シェア、チャンネル登録」です。AssemblyAI は最初の三つの音声では何も作り出していません。包囲の場面だけが、それを一回引き起こしました。
挿入された単語。 包囲の場面で誰かが「kalau kita bersatu」(「私たちが団結すれば」)と言いますが、四つのエンジンのどれも正しく書けませんでした。ElevenLabs は「寄ってたかって」、AssemblyAI と Speechmatics は「引き渡す」と書き、Doubao は「kalau kita nggak serahkan」(「私たちが引き渡さなければ」)と書いて、誰も言っていない否定を足しました。夕食では、Speechmatics がある行の末尾に「hati kau」(「お前の心」)という余計な二語を付け足しました。
繰り返しのループ。 包囲の場面では、人々が Bondy という名前を叫び続けます。ElevenLabs、Soniox、Doubao はそれぞれこの名前を五回から九回書きました。Gemini はそれを Bodoh(「ばか」)として十回書きました。
一節の脱落。 包囲の場面で最も多く落としたのは AssemblyAI で、悲鳴の長い部分が抜けていました。
言語ドリフト。 Doubao の最初の二つの音声は、中国語と英語の混ざった意味不明な出力で返ってきました。インドネシア語の言語コードを送っていなかったためです。id-ID を指定すると、助けを求める場面の書き起こしはメインとほぼ一語一句同じになりました。
四つの音声のどれでも、文全体の意味を反転させたエンジンはありませんでした。
何を選んだか
メイン:ElevenLabs Scribe v2。 最初の二つの音声で WER が最も低く、クリアな音声では意味の誤りがほぼなく、包囲の場面から最も多くの内容を拾い、助けを求める叫びを拾えた唯一のエンジンでした。
リファレンス(順に):Soniox、Doubao、Gemini。 三つともインドネシア語のすべてのファイルで動きます。
- Soniox:AssemblyAI に代わりました。見直しでレッドラインの誤りがないことを確認し、メイン以外のエンジンの中で一位か二位でした。疑わしい箇所が二つありましたが、どちらもすべてのエンジンが失敗した極端に騒がしい部分で、書いた内容は音声中の音と合っていたため、作り出しではなく聞き違いとして数えています。
- Doubao:言語コードを直すと、四つの音声で作り出された文も反転もありませんでした。Soniox とは技術的な背景が大きく違うため、二つが同じ箇所で失敗することはあまりありません。
- Gemini:クリアな助けを求める場面では、メインや Soniox とほぼ一語一句一致しました。
AssemblyAI は予備になりました。作り出した「ありがとう」と、落とした悲鳴の部分を合わせると、同じ基準で判断して Soniox よりレッドラインに近かったからです。
私たちの選択に不利な証拠
- Soniox には癖があります。聞き取れないとき、明らかな意味不明の出力を残す代わりに、流暢な文を書く傾向があるのです。そして流暢な誤った文は、読み手にとって最も見抜きにくい種類のものです。初期の自動スキャンでも、インドネシア語の出力に過剰生成と繰り返しの兆候が検出されました。設定には、本番の最初の一か月は、Soniox だけが出した聞き取りにくい箇所の流暢な行を抜き取り確認するよう注記しています。
- 「団結」の行で Doubao が足した余計な否定は、書き起こしを統合するときに最も大きな害をもたらす種類の誤りそのものです。
- AssemblyAI は最初の三つの音声ではきれいでした。置き換えの根拠は、主に一つの場面に依拠しています。
未解決の問題
- 四つの音声はすべて一本の映画からで、出演者も収録条件も同じです。ほかの映画やほかの訛りでは、違う答えになるかもしれません。
- 包囲の場面のスコアは使えないので、そこでの順位はすべて一行ずつ読むことから決めています。
- 本物のインタビューの録音はありません。
執筆:Zeyu Si