『あな番』のAI菜奈ちゃんは「宮迫」「田村亮」をNGワード設定も、危険な会話が成立する可能性

　クライマックスに向かうに連れて注目度も高まっている日本テレビ系ドラマ『あなたの番です -反撃編-』。作品内に登場した「AI菜奈ちゃん」が実際にLINE　のサービスとして登場し、人気となっている。

「AI菜奈ちゃん」は、原田知世が演じていた手塚菜奈がAIになったもの。作品内では、横浜流星演じる二階堂忍が、田中圭演じる手塚翔太のために作成した。

　LINE版「AI菜奈ちゃん」のでは、友達登録をすると会話を楽しめる。ユーザーが発した言葉に対し、「AI菜奈ちゃん」が自動で返答してくるのだ。

「簡単な会話ボットですね。難しい会話は全くできませんが、ドラマの内容に関係ある言葉を入れると、それっぽい返答をしてくれます」（テレビ局関係者）

　こういった会話ボットサービスはいくつかあるが、ここで問題となりやすいのが、不適切な内容の言葉に対して、どんな返答をするかということだ。会話ボットの開発に携わったことがあるIT関係者・A氏はこう話す。

「基本的には“NGワード”を設定し、そのワードが投稿された場合に、不適切なやり取りにならないようの返答を調整します。たとえば“死ね”と入力されたら、まったく関係ない返答が出てくるようにするとか、有名な犯罪者の名前をNGワードにするとか、そういった感じです」

「AI菜奈ちゃん」で実際に会話をしてみたA氏は、こう分析をする。

「『AI菜奈ちゃん』を相手に『死ね』や『うんこ』などと発言すると『…』と返答されます。おそらくNGワードが含まれた内容には『…』で返答するように設定されているのでしょうね。あと、『宮迫』『田村亮』『入江慎也』『田口淳之介』『ピエール瀧』『山口達也』などといった不祥事を起こした有名人の名前を入れると『…』と返ってきます。おそらくこれらはみんなNGワードに設定されていると思うんですが、どういった基準でNG設定になっているのかは、気になります」

　吉本の闇営業問題で話題になった芸人ということで、『2700』『スリムクラブ』を入力してみたが、こちらには『…』とは返ってこない。つまり、NGワードとなっていないようだ。
「不祥事芸能人に対する、日テレ的な“NGライン”が透けて見えるようで面白いですね。それ以外にも、気になるのは『慰安婦』と入れると『…』と返ってきて、『徴用工』と入れると他の言葉が返ってくるあたり。政治的な言葉も、NGになっているものとそうではないものがあるようです」（同）

　デリケートな言葉をNG設定していないとなると、ユーザーの入力内容と返答次第では、特定の個人や組織を攻撃する会話や、特定の思想を支持するかのような会話が成立してしまう可能性もあるだろう。

「会話ボットの開発で気をつけなければならないのは、できるだけ危険な会話にならないように調整することです。『AI菜奈ちゃん』については、ちょっと甘い部分もありそう。危険な会話のスクリーンショットがSNSなんかで拡散すれば、炎上しかねないと思います」（同）

　ドラマの内容で注目を浴びるのはいいが、「AI菜奈ちゃん」が妙な形で注目を浴びるのは不本意だろう。リスクを回避するなら、AIの精度アップが必要なのかも。