前回は、生成AIが急速に普及する中で、専門学校においてもAIリテラシー教育が必要となっている背景についてお伝えしました。

指導スキル（23）～「使わせない」から「使いこなす」へ | 専門学校で今、教員と学生に求められるAIリテラシー（前編）

生成AIは非常に便利なツールですが、その一方で、使い方を間違えれば誤情報の拡散や情報漏えいなど、さまざまな問題につながる可能性があります。学生へ適切な指導を行うためには、まず教員自身が生成AIの特性やリスクを正しく理解しておくことが大切です。

今回は、生成AIを活用する上で知っておきたい4つの代表的なリスクと、そのメカニズムについて整理しながら、これからの専門学校教員に求められる考え方についてお伝えします。

知っておくべき生成AIの「4大リスク」とそのメカニズム

教員や学生が生成AIを活用する際に、特に知っておきたい注意点にはどのようなものがあるのでしょうか。ここでは、授業で学生に伝えたい4つのリスクについて紹介します。

ハルシネーション

1つ目は、「ハルシネーション」です。

ハルシネーションとは、生成AIが事実ではない内容を、あたかも正しい情報であるかのように回答してしまう「もっともらしい嘘」という現象です。

「AIが間違えることは少ないだろう」と考えてしまいがちですが、実は生成AIは「正しい答え」を探しているのではなく、「次に続く可能性が高い言葉（トークン）」を予測しながら文章を作っているのです。そのため、AIが学習していない情報や最新情報について質問した場合だけでなく、質問の内容や文脈によっても、もっともらしい誤情報を生成してしまうことがあります。

例えば、存在しない法律や論文を引用したり、実在しない統計データを示したりするケースも報告されています。一見すると自然な文章なので、そのまま信じてしまう危険性があります。

授業では、「AIの回答は参考意見の一つであり、必ず正しいとは限らない」ということを繰り返し伝える必要があります。そして、官公庁や業界団体、企業の公式ホームページなどの情報を、自分自身の目で確認する習慣を身に付けさせることがとても重要です。

機密情報・個人情報の漏えい

2つ目は、「機密情報・個人情報の漏えい」です。

学生に注意してほしい例として、実習で扱った情報やアルバイト先の資料などを、そのままAIへ入力してしまうケースがあります。

例えば、
「この患者さんの症状から考えられる疾患を教えてください」
「お客様からこのような相談を受けました。どのように対応すればよいでしょうか」
といった質問をする際に、氏名や住所までは入力しなくとも、状況によっては特定されてしまうような詳細まで書き込んでしまう可能性もあります。

生成AIサービスによっては、入力した内容がAIの品質向上のために利用される場合があります。入力内容を学習に利用しない設定が可能なものや、企業・教育機関向けにセキュリティ面に配慮したサービスもありますが、「入力してよい情報かどうか」を判断する力は、利用するサービスに関係なく必要です。

専門学校では、卒業後に医療、介護、美容、保育、ITなど、個人情報を扱う仕事に就く学生も数多くいます。だからこそ、「AIへ入力する前に、この情報は第三者に見られても問題ない内容だろうか」と一度立ち止まって考える習慣を身に付けさせることが大切です。

著作権

3つ目は、「著作権」です。

デザインやイラスト、文章、プログラムなどを生成AIで作成できるようになったことで、著作権への配慮がこれまで以上に求められるようになりました。

また、AIが作成した画像をそのまま作品として提出したり、生成された文章を自分が書いた文章としてレポートに使用したりする場合には、著作権だけでなく、AIの利用に関する学校のルールや学習上のルールについても、明確にしておく必要があります。

データバイアス

4つ目は、「データバイアス」です。

AIの学習データなどに含まれる偏りが、生成される回答に影響することがあります。こうしたAIの出力に表れる偏りは、一般に「データバイアス」と呼ばれます。

例えば、特定の職業について質問した際に、性別や年齢に偏った回答が示されたり、文化や国によって異なる価値観が十分に反映されていなかったりすることがあります。

AIは客観的・中立的に見えるため、学生は無意識のうちにその回答を正しいものとして受け入れてしまうことがあります。しかし、AIの回答も学習データなどの影響を受けていることを理解し、「別の考え方はないだろうか」と多面的に考える姿勢を育てることも、AIリテラシーの重要な要素です。

まとめ｜教員自身の考え方をアップデートする

ここまで、生成AI時代に求められるAIリテラシーと、授業で教員が知っておきたい4つのリスクについて紹介してきました。

生成AIについて、「学生に使わせるべきか、それとも禁止すべきか」という議論が行われることがあります。しかし、今後さらにAIが社会へ浸透していくことを考えると、「使わせない」という選択だけでは、学生が卒業後に必要となる力を十分に育てることは難しいでしょう。

もちろん、何でも自由に使わせればよいということではありません。大切なのは、生成AIの便利さと危険性の両方を理解した上で、適切に使いこなす力を育てることです。

専門学校は、学生が社会へ出るための最後の教育機関となる場合も少なくありません。限られた時間の中で、知識や技術だけではなく、新しいテクノロジーと正しく付き合う姿勢を育てることも、これからの専門学校教育には求められているのではないでしょうか。

この記事を書いた人

村上 敬一

ＲＴＦ教育ラボ代表／教育コンサルタント／東京都杉並区内中学校学校運営協議会委員
全国の公立および私立の小学校・中学校・高等学校、専門学校、塾などで教員研修、講師研修、授業や学級経営を中心とした教育全般に関するアドバイスを行う。また、現在まで18年間に渡り、毎年約150名の教員志望者を育成。年間の授業観察数は300を超え、これまでに約5000の授業を観察している。
RTF教育ラボ（https://goseminarcourse01.wixsite.com/rtfkyouikulab）