【要注意】あなたの会社も他人事じゃない。生成AIが招く3つのリスクと対策

0:00 ご情報を出す確率が0% に下がっていくんじゃないかなとは思います。今現在進行で入力した情報もチャット GPで学習をして関係な第3 者の情報にの出力に出てしまうって可能性があります。 外中さんから上がってきた画像がAI だったらどうしようってちょっと思ってはい。 はい。どうもトラ高田です。本のです。 今日はですね、ちょっとAI の抱えるリスク と、え、ま、どういう、ま、高和さがあって、どういう解決ができる、こういう対策すればそんなリスク怖くないよっていうところを動画を使って解決したいっていうのと、あとは実際に公式ラインでいくつか結構質問がせられてますと本当に大丈夫なの AI っていうところの質問がやられてるんで、そこの部分ちょっと回答していこうかなと。 AI ってした便利さと漠然としたなんか高和さみたいなところを皆さん抱えてるかなと思うんですけども、多分きっちり正しく使えばいいんじゃないかなと思ってんですけど。あってます。

0:49 あってます。 分かりました。じゃ、そういったところを解消して AI ライフを皆さんに楽しんでいただくていう、そういったとなっております。まず 1個目、チャットGPT って便利そうだけど結構間違った情報を出すって聞きます。これ会社でこの情報使っちゃったらトラブルになりそう。その辺どうですか? ありがとうございます。1 番聞かれるリスクについてこれ質問です。はい。 1 番聞かれます。あのまさしくで、ま、嘘をつくって言うとちょっと表現が違うんですけど、あの、間違った情報を生成することがあるんですね。 もうJATGPDに限られず先生全部今だ とちょっと制度も上がってきてるんで チキンにくくなったんですけど知らない国 だなんか存在しない国を聞くとあるかに 話してくれきたりとか例えばじゃあ こだま王国について教えてみたいな風に 聞くと子供だ王国は人口が何人でみたいな のをまそういう感じのマリスクがあります 。までもさすがに極論なんでこういった

1:34 ものは出てこないんですよね。 さすがにしても私たちも分かりますしなんですけどなんかネットにも乗ってないような結構難しいところで若干嘘ついたりするのでそれがちょっと厄介なるほど 1 個あります。あの事例みたいなところを話すとま 2つありまして例1 個目なんですけど店舗型で個人のお客さん向けに商品を売ってるようなま例えばスーパーみたいなあの会社さんがで起きたちと問題なんですけど生成 AI を用いた問い合わせチャットボットを導入したんですね会社に。 うん。うん。 で、その時にお客さんにセールでもないのにある商品をセールだとしてセールの値段でご紹介したんです。 へえ。今セールの商品ですかみたいに セールじゃないのにその商品紹介して しまってお客さんが実際に来て購入したん です。で、そん時にセールじゃないので もちろん低下で出したんです。で、それで 問題になって最終的に至ったのはま、 例え成AIだとしても店側が管理している スールがお客にお見せしたものだから

2:21 セールの値段で提供しなさい。なるほど。 落ち着いたみたいなこういう問題もある。 これで原因は分かる?原因は分かります。 SSIって過去の情報を学習して新たな 文章を生み出すみたいなそういう仕組みな んですねざっくり言うとなので、あの、 大量に学習していればしている分野ほど 正確な情報を出すんです。人は哺乳類です みたいなのも当たり前すぎますし、データ としては多分めちゃくちゃあるんで、もう 人は入りだって返くんですけど、なかなか ない日本の1個のエリアのスーパーの とかってわかんないですか。学習してない 可能性があるので、正直想定で回答する ことが多いんですけど、それが理由に なるほど。あ、そこのちみにじゃ本当に 事例の中でいくとセールしてないのに セールしてますて言っちゃったわけじゃ ないですか。これじゃ推測だったからが 正しいです。あ、そうです。そうです。 これちなみに対策としてはセールじゃない普通の金額ですよっていうことを覚えさせれば問題なしのとちょっとま、制度が上がってきたんでさすがに制度品とかも出さなくなってきたかもしれないんですけどお客さんに人の目を通出すみたいなところで活用がちょっとまだ難しい可能性があるかなっていう

3:18 思ってます。あの出てきた情報を必ずその 1 方からチェックするみたいなものが必要なんですけど、ま、それからもし車内のチャットボットから多分問題ないと思うんですよね。チェックができるのでのでそのえっと 1 情報から必ず事実確認をするっていうのが必要になっていきます。 ま、そこの、ま、整備みたいなところはまだ追いついてないようなツールがいると。なるほど。これちなみに天さんで開発するってなったらそこの部分は間違った情報を出しちゃいけない分野業界には僕たち開発提供してないんではい。 なんかあの弁護りとか医療系とかそういう問題を出してなくてどっちかと車内のあのチャットボットみたいなところま出しても多少ちょっとあのずれても大丈夫だよねみたいなところに出すっていう ああなるほどしてきますにならないようなにやってことですねましたか僕も結構これ合ってんのかなって思うフィードバック結構来たりするものがあったりするんですね。 で、あとは結構ありがちなと思ったのがどこかに提案

4:03 SNS の運用やりませんかっていう提案をした時に音社情報みたいな感じで企業情報だったりとか競合リサーチみたいなところは結構チャット GP と任せるでそん時に前回のヒアリングで聞いてた話ちょっと違うかもなみたいなことがあったりするのでまそういったところのこう目でまだチェックするっていう段階は必要かなと思ってますがこれってデータがどんどん増えてき増えていくといろんなあら得ゆる分野が生活で上がってくわけじゃないですかそうなってくるとだんだんチェックは必要なくなってくるおっしゃる通りですね多分怖いと思うんでチェックは通すと思うんです けどだんだんそのご情報を出す確率が0% に下がってんじゃないかなとは思います。 なるほど。分かりました。 じゃあ、ま、これはもう本当に確認する前提での、え、運用といったところが AI は必要となってきますので、そこはこにいただけると思いです。 はい。 じゃあ続いて2 つ目。これもかなり多かったです。業務でチャット

4:49 GPT 使いたいけど秘密情報を入れて大丈夫ですか?情報語がどこかに留出しないですか?これ確かにそうなんですよね。確かも来ますね。 特にそのDX水とかの部署の方々とかは これすごい気にしてて、どういうこと かってあの言いますと先生最初にも先説明 した通りあのデータを学習して新たな データを見出すんですよね。なので私たち が普段使ってるチャットGPTに今現行 入力した情報もチャットGPTが学習をし て関係ない第3者の情報に出力に出てしま うって可能性があるんです。うん。 なるほど。これでも確かに怖いすよね。 怖いですよね。 じゃあ、例えば決算書作ってみたいな話した時に、今期の売上これぐらいで来年はどれぐらいどこに予算投化しようとしてて、こういう戦略で行きますって入れててたとしたらどっかの競合他者がメディアトラックの戦略教えてって言ったらパッと出てきてしまうかもしれない。 はい。まさにです。非常に怖いですよ。非常に怖いです。あ、あったのが、ま、ソフトウェアの会社なんですけど、プログラミングコードを、ま、ちょっと枝のみに入れて大問題になったとかあるんですよ。

5:40 へえ。 いわゆるもうその会社の価値を同映しているのでみたいなところがすごい問題になってきているんですけど、ま、これも一応対策はあります。 で、対策が、えっと、ま、正直2 によって変わってくるみたいな回答になってしまうんですけど、あの、チャット GPT皆さん1 番使うと思うんで、チャットGPT が回答をするとチャットGPT 開いていただくと設定画面、右上のアイコンから設定画面行けると思うんですね。で、設定のところでそのデータの学習を、え、オフにする機能があるので、 それを必ずオフにしてください。最初はオンになってしまっているので、デートの学習をオフにするというところです。 あとよく使うのがすぐジェニーとかあとはマイクのコイロットを使うと思うんですけど、この 2 つは難しくて無料プランだとデータを学オフにすることができないんです。で、有料プラにすると学証オフにできるので、ま、これはちょっと有料プラにするか、もしくは最初チャット GPで使うみたいな、そういう感じに。 ああ、なるほど。

6:28 結構僕体感ですけど、出てくるアウトプットの形もこうセキュリティ面も含めて、まだやっぱりチャット GPT が今んとこ最強かなと思ってるんですけど、これはもちろん相性もある。 ああ、なるほど。最強がちょっと難しいですね。 お金を有料化すればマイクとパイロットも minニも、ま、マイクだとGoogle のセキュリティなんでも全然ホープなと、ま、そしないかなと思います。うん。あ、なるほど。 結構ライトに掴んだチャットGPT が安牌。 安牌ですね。というのと、ま、その通りでその設定オンオフできるできないもあるんですけど、ま、そもそも入力する必要のないデータは入力しなくていいかなとも思ってます。ま、やっぱコピで貼る人多分多いじゃないですか。ま、そういうのが楽なんですけど、ま、その中には多分入力しなくてもいいよねみたいな情報もあると思うんですね。 なのでそれは入れないっていうところとそれでも怖いって方がいらっしゃったらデータを変更するみたいなそういう方法がありまして子だまとやっていう名前を入れるんじゃなくて A さんっていう名前に変換するこれマシキングって言うんですけどしてデータを入れるみたいなそういうやり方が ああなるほど対策としてあるかなと思いますうちもみんな僕の高田で入れてますね多分あ田がこうでみたいな入れてると思いますなし確かに情報漏って言ったところはご情報よりも致名的になってしまうような僕はイメージがあるのでここは本当に気をつけていただきたいなと思って

7:29 で、基本的にはジェミニとコパイロップは無料プランだとその学習しないモードっていうところがちょっと厳しい。 で、チャットGPT に関してはしっかり設定方法があるので、そちらは画面に出てるかもしれないんですけれども、え、設定方法がしっかりとあるので、そちらの設定をお願いいたします。最後もう 1点。 これ僕も非常に気になってる問題でして、特にうちみたいなクリエイティブ政策を行うような会社だとかなりドキッとするような質問なんですけれども、画像生成で作ったイラスト野郎ってそのまま商用利用しても大丈夫なんでしょうか?誰かに怒られたりしないか不安です。 なるほど。 これはうちも例えば外中さんから上がってきた画像が AI だったらどうしようってちょっと思ったりするあるんですよ。 その点ちょっとお解してもみよろしいですか? はい。ありがとうございます。正直画像制の商用利量利量はまだ難しいのかなとは思っています。これはま、解説っぽくなっちゃうんですけど。

8:16 あの、デ学習して生成してるので、例えば有名な画が書いた絵の一部が出てきてしまうて、そういう問題があると思うんです。ま、なぜ難しいかなっていう風に言ってるのは、ま、ルールが明確に決まってないんですよね。 なるほど。 こうしたらダメ。いや、でもこうしたらオッケーみたいなルールが定まってないまま最近だったあのチャット GPT がパアップしまして、あの、なんかジブリ風にみたいな ああ、見ました。 ありますよね。みんなライアイコンとかにしててジブリですよね、あれ。 はい。あれは正直結構危ないかなっていう。ただルールが定まってないだけで時間が経ったらルールで規制されるなみたいな。 そういう状況になってるんです。なので 画像生成だけは難しいかなと思ってて、 既存の著作権のあの法律と使い方は、ま、 今一緒かなって思ってて、あのご自身の 趣味とかあとはお金がかからないその車内 の共有用資料の一部で使うみたいなそう いうような問題ないかなと思ってるんです けど、その商用利用例えばSNSで、ま、 簡単に出してしまうとか、あとは、ま、

9:01 それを写真集にして販売するみたいなのは おそらく見解なんですけど、100%合う のかなとは思ってるので、ま、そこは じゃあまだ明確にダめとは言われてない けど控えた方がいいです。うん。 なるほどの中でも唯一使えるかなって考えてる生成 AI2部があります。それがあのADOB さんPhotoshopとか提供してる ADOBさんが提供しているファイI フライという画像成AI でございます。これなぜかと言うと ADOBのフイアフライという先成AI はその学習元のデータが特定されてるんです。 へえ。なるほど。 これはあのアドBが著作権を持っている画像だけしか学習しないんですね。 へえ。アドってアドストックとかあります。 あ、そうです。そうですね。ああ、なるほど。 で、アドはさらにアドの持ってる画像しか使ってませんし、生成したものの著作権はアドは持ちませんと回答しているんです。 さすがうちも非常にアドさんにお世 あ、そうですよね。この動画の編集もアさんみたいな形なので、ま、どうしても使えたい時は、ま、アドさんを使うのがいいのかなという風に考えて。うん。

10:00 なるほど。今んところじゃあまとめと全くのダメではないけれども商用利用はちょっとリスクありそうていうところとあとは法制備ちゃんとできるのをちゃんと待った方がいいそうみたいな感じですかね。 今画像生成だけだと思うんですけど、動画成も同様 動画生も同様です。はい。じゃ、例えば TikTok とかに料理してるポケモンあるじゃないですか? あれ危ないです。 うん。なるほど。結構だからX の中で見たんですよ。 そうですね。ルフィー出してルフィーちゃんと出していきましたね。あれも全然ダメですね。多分ダメですよね。 あ、分かりました。ま、この辺のルールとかっていったところも僕たちがお答えできる範囲であればお答えすることもできるんでコメントからあの質問の方をお願いいたします。 じゃあ今日はちょっと方的な質問になってしまったかなと思っ、もうこれ、あの、毎回修で絶対聞かれる 3 つのあの質問なんで是非覚えといてください。

10:48 はい。ありがとうございます。この今回も、えっと、先ほども申し上げたんですが気になるようなリスクだったりとか、こういう使い方ってありなのだったりとか、こういうものって危なくないのみたいなところの気になるところがあったら是非、え、この動画のコメント欄からご質問ください。で、あとですね、基本的なこう開発のご相談だったりとかこういうツーって使えないのみたいなところのご質問を概欄にある公式 LINE の方から受け付けておりますので、是非そちらからお問い合わせください。 で、あとは無料面談みたいなところもやってるので、そこもご相談いただければなという風に思います。この動画良ければチャンネル登録、高評価、え、グッドボタンの方をよろしくお願いいたします。ありがとございました。 ありがとうございました。