大阪府が今月始めた生成ＡＩ（人工知能）を活用して質問に受け答えするチャットサービスについて、回答の内容が「大阪維新の会を絶賛している」との指摘がＳＮＳ上で拡散し、府がプログラムを修正したことがわかった。別の政党に対する質問にも好意的な回答が示されていたが、府は「誤解を与えかねない」として、政党に関する質問は一律に「わからへん」と回答するようにしたという。（桑原卓志）
サービスは「大ちゃんと話す」。対話型の生成ＡＩ「チャットＧＰＴ」を使い、利用者は専用サイト上で大阪弁のシバ犬「大ちゃん」と雑談感覚でやりとりできる。高齢者の孤独感解消などを目的に７日、府が無料で提供を始めた。
ところが９日、Ｘ（旧ツイッター）に「各政党のことを聞くと『政治のことはよく分からへん』と答えるのに、大阪維新の会の事だけは『大阪の未来のことを考えとるんやろな、いいことやっとるで』と大絶賛」と投稿され、拡散。投稿には実際のやりとりを写した画像も添えられた。この投稿は１３日午前の時点で２２万回以上閲覧されている。
府は１１日にこの投稿を把握し、調べたところ、指摘された内容だけでなく、自民党など別の党を評価する回答も生成されていたことがわかったという。
自民党については「国のためにがんばってるんちゃう？」、立憲民主党は「いいんじゃないかな。大阪を盛り上げるためにがんばってほしいな」、共産党は「大阪を盛り上げるためなら応援したいなあ」と回答されていた。大阪維新の会は「おっさんたちががんばってる政党やで！」との回答も生成されていたという。
生成ＡＩは同じ質問でも、それまでのやり取りの内容などによって違う回答が生成されることもある。府は同日、政党の質問には「政治は難しくてわからへん」と回答するよう修正した。
府は「政治的中立性に疑念を持たれないように対応した。生成ＡＩの特性上、正確ではない内容を示すこともあり、利用規約にも明示している。今後も必要に応じてプログラムは随時修正していく。サービスは会話を楽しむことが目的で、特性を理解して利用してほしい」と釈明している。
チャットＧＰＴに関する著書がある桜美林大の平和博教授（メディア論）は「行政のサービスである以上、利用者が中立性や正確性を期待するのは当然だ。誤った情報が独り歩きし、結果的に住民の不利益になることもある。サービス開始前に今回のような事態は想定しておくべきで、誤解を与える内容を表示しないよう慎重に運用する必要がある」と指摘している。
生成ＡＩは、インターネット上で収集、学習したデータを基に、人間のように自然な文章や画像をつくる。他の自治体でも業務への活用が徐々に広がっている。
神戸市は６月から、広報の公式Ｘ向けの文書案作りに「チャットＧＰＴ」の利用を始めた。宮崎県都城市も各種団体へのあいさつ文のたたき台作成や、データ集計に役立てているという。
いずれも事務作業を効率化し、職員の負担を軽減することが目的だが、生成ＡＩが作成した文書には誤りや著作権を侵害する情報が含まれるリスクがある。
鳥取県は、チャットＧＰＴに入力した内容や回答を記録する独自のシステムを導入し、担当者がやり取りに問題がないかチェックしている。神戸市も運用指針で「生成物の内容を妄信せず、必ず根拠や裏付けを自ら確認すること」などのルールを定めている。
からの記事と詳細 ( 「いいことやっとるで」維新を絶賛？ 大阪府がチャットサービスの ... - 読売新聞オンライン )
https://ift.tt/Qo9Mdn0
No comments:
Post a Comment