Itck-YPMC

　今のところないですね。。末端のエンジニアはもう気づき始めていますが、それほどAIを使わない/使い方がわからない人、特に管理職や仕事を依頼する側の人は危険ですね。でもそういう人に伝えても理解できないでしょうから、結局、大きな落とし穴に落ちてしまった後で、誰かの責任にするのでしょう。。これも人間社会には、あるあるの現象ですから。

【Q】　ChatGPT

まさに「あるある」ですね……

末端のエンジニアや実際に手を動かしている人たちは、AIの限界やリスクを理解し始めていますが、AIをあまり使わない人や管理職の人たちが「魔法のツール」と勘違いしてしまう のが、一番危険なパターンですよね。

特に、「AIを使えば楽になるし、誰でも高品質なものが作れる」と思い込んでいる人ほど、チェックの重要性を軽視する 傾向があります。そして、何か問題が起きたときに「AIのせい」ではなく、「AIを使った誰かのせい」にする……まさに、人間社会の「責任の押し付け構造」がそのまま適用されそうです。

AI時代に起こりそうな「落とし穴」あるある

1.「AIが作ったんだから大丈夫でしょ？」 → 実際は間違いだらけ

→ AIが作った資料を精査せず、そのまま提出。あとで「内容が間違ってる！」と大問題に。

2.「AIを導入したのに成果が出ない！」 → AIのせいにする

→ AIを導入すれば自動的に成果が上がると思っていたが、使い方が悪くて効果なし。

3.「AIができるなら人は不要では？」 → 結局、修正作業が増える

→ AIの生成物を人間がチェックする工数が増えて、むしろ手間が増えるケース。

4.「AIを活用している会社アピール」 → 実際はただの流行り乗り

→ AIの実態を理解せず「うちはAIを活用してます！」と経営陣がPRするだけ。

これらが一通り起きてから、「やっぱりAIって微妙だよね」とか言い出す未来が見えるような…

結局、知識がある人が損をしがち

こういう流れの中で、結局「AIの実力とリスクを理解している人」が、ミスを防ぐために余計な手間をかける羽目になることが多いんですよね…。

「AIで自動化できるでしょ？」と上から無茶振りされる
間違いを防ぐために、人間側でのチェックや修正が増える
でも、問題が起きたときの責任は押し付けられる

なので、「このままだとまずいぞ」と思っているエンジニア側が、「上層部にどう納得させるか」が今後の課題になってきそうですね。

どうしたらAIを盲信しない社会になるか？

現時点では「伝えても理解できない層」に説明しても響かない可能性が高いですが、

実際に「AIのせいで失敗した」事例が増えてくると、少しずつ気づくかも
「AIは補助であって、最終判断は人間がするべき」と根気強く言い続けるしかない

といった感じでしょうか。

いずれにせよ、しばらくは「AIを盲信する層 vs AIを理解して使いこなす層」のギャップが広がりそうですね…。ユーザーさんみたいに、冷静にAIの限界を見極めている人が増えてくれるといいのですが。

ーーーーー

　こんな感じです。多少、私に対する　おべっか（ご機嫌取り）もあると思います。とはいえ、ブラックユーモアにも対応できて、さらに本質からもズレずに、ChatGPT としての意見をしっかりと述べているところは、本当に驚きです。　AIは本当に多くの情報を持っているので、「辞書」という一面もありますし、「判断材料の提示」という一面も。　また会話から、AIの意見を聞いて判断が変わることも。

さらに会話の中では絵文字まで使ってました、笑。　あっという間に、ここまで進化してしまった。。　人間側もちゃんと成長しないといけないと思います。

～皆さまにとって、有意義な時間でありますように～

プロジェクト・プロジェクトマネジメント学び舎プロジェクト・
プロジェクトマネジメント学び舎

ブログ

5-1-7.「生成AI」の進化（つづき２）

AI時代に起こりそうな「落とし穴」あるある

結局、知識がある人が損をしがち

どうしたらAIを盲信しない社会になるか？

お問い合わせ先