本文へスキップ

シリーズ27言語の検証記録

マレー語:話し手が英語に切り替えたのに、エンジンがマレー語に訳し戻した

· Zeyu Si

このページの内容

マレーシアの時事インタビューで、ゲストが途中から英語に切り替えます。「enforcing the letter of the law, without looking at … mood music around you.」

ElevenLabs はこの英語を一語一語そのまま書き取りました。AssemblyAI は代わりに十五語ほどのマレー語を出力しました。意味はほぼ同じで、完全に流暢ですが、ゲストが言ったことではありません。

研究者にとって、これはマレー語で最も危険な誤りです。エンジンがインタビュー対象者に代わって翻訳をしてしまっており、ページ上にはそれを示す手がかりが何もありません。

テスト音源:コードスイッチングを基準に選んだ三本

  • マレー語テレビドラマの一場面:母と息子の会話に続いて、麻薬取締班による逮捕の場面。怒鳴り声と、いくつかの英語のセリフ(「under arrest」など)が入ります。
  • マレーシアの政治トーク番組のインタビュー二本:コメンテーターが文ごとにマレー語と英語を行き来し、英語の節がまるごと入り、人名と政党名が多数出てきます。

四本目として TEDx のトークがありましたが、ボランティアによる字幕が要約(三分間で 170 語)だったため参照に使えず、外しました。無料で、会話体で、逐語のマレー語素材は少なく、三本で打ち切りました。音源はコードスイッチングの多さで選んでおり、当社の三段階の難易度に合わせたものではありません。人が重なって話す強い雑音の条件は特にテストしていません。

テストしたエンジン

十一種類:ElevenLabs Scribe v2、Soniox、Doubao(ms-MY)、AssemblyAI、FunASR、Qwen、Speechmatics(enhanced と Melia-1)、Gladia、Deepgram、さらに 2026年8月に追加した Gemini です。

エンジン別のレッドライン

英語をマレー語に書き換える:上の法律に関する一節で、AssemblyAI と Gladia の両方がこれをしました。もう一本のインタビューでは、AssemblyAI は「asking for the removal」を「回復」を意味するマレー語に変えており、意味が正反対です。Gladia は「コメントを見てみます」を「コメントを封じます」に変えました。

意味の反転

  • Deepgram は「捜査されている」を「逃走した」に変えました。
  • FunASR はドラマのセリフ「人違いだ」を「その人で合っている」に変えました。
  • Speechmatics は英語の「I don't know what that means」を「I know What I means」に変えました。

区間の欠落:Deepgram はドラマを 2:11 以降で打ち切り、およそ 30% を失いました。FunASR はインタビューの一本で約 20 秒を飛ばしました。

語の挿入:Speechmatics は「menipu」(「だます」)をある文に紛れ込ませました。

ループ:Speechmatics の Melia-1 版はドラマの最後で「eh」を五十回ほど繰り返し、あるインタビューでは「ada ada ada」の連続を出しました。この連続は当初 Qwen のものとされていましたが、再検証で別のエンジンのせいにしていたことがわかりました。

何を選んだか、そしてその理由

主軸:ElevenLabs Scribe v2。 三本すべてでコードスイッチングの処理が最もきれいで、英語の節を一語一語そのまま残し、固有名詞も最も正確でした。

参照 1:Soniox。 どの音源でもハルシネーションも意味の反転もなく、三本すべてでエラー率が最低でした(ドラマでは AssemblyAI をわずか 0.4 ポイント上回るだけ)。唯一の小さな誤りは「letter」を「latter」と書いたことです。

参照 2:Doubao。 こちらもハルシネーションも反転もなく、三本を通じて何も「翻訳」しなかった唯一のエンジンです。ドラマの英語のセリフ「You got the wrong person」と「under arrest」を話されたとおりに残しました。誤りは固有名詞と音の似た語で、たとえば「gelak」(笑う)を「gelap」(暗い)としたものです。

参照 3:Gemini。 八月のラウンドでは、一本目のトーク番組でぼやけた言い回しが多くても一か所だけで、政党名と機関名はすべて正しく書けていました。TEDx のトークでは、ハルシネーションのない一貫した 304 語を出力しました。

私たちの選択に不利な証拠

  • Soniox もマレー語化する。 ドラマで英語のセリフ「You are under arrest」をマレー語の「awak ditangkap」と書きました。意味は正しく反転もありませんが、AssemblyAI を減点したのと同じ種類の振る舞いであり、当初のレポートはこれを指摘していませんでした。再検証では、本番運用の初期にコードスイッチング区間を抜き取り確認することを推奨しています。
  • Doubao は明確な二番手ではない。 トーク番組では、そのエラー率は FunASR や Qwen と順位が入れ替わります。選んだ理由の一つは、FunASR が大きな塊を落とし Qwen がループしたのに対し、Doubao はどちらもしなかったことでした。その後半は別のエンジンのせいにしていたことが判明しました(最後の項目を参照)。
  • AssemblyAI はドラマでは実はとても優秀:17.4% で、Soniox と並んで首位です。崩れるのはインタビューの密なコードスイッチングの場面だけです。現在は予備としています。
  • Qwen は二つの証拠で有罪とされましたが、どちらも崩れました。ループは Melia-1 のもので、「作り出された言い回し」は話し手が本当に文を言いかけて言い直したものでした。現在は使える予備ですが、常設のトラックにはしていません。タイムスタンプが実際のタイミングではなく等間隔の格子になっているためです。

未解決の点

  • 三本はサンプルとして少ない。
  • 人が重なって話す強い雑音の専用テストはしていない。
  • 密なコードスイッチングは政治トーク番組という一つの場面でしかテストしていない。

マレー語の文字起こしページ

執筆Zeyu Si