K's Atelier

個人的な学習記録

ロボット三原則とPrompt Injection

ChatGPTの発表以降,生成AIをどう使っていくか,の「考え方」を考えている。

人間をだませる程度の能力を持つ道具をどう使っていくか,という状況では便利な道具,以外の様々な注意?が必要になってくる。世の中ではDigital Humanismという考え方があるようだ。

私はふと,最新技術を追う流れを止めて「昔のSFを読み直したらいいんじゃないか」と思った。

 

そういえば,「われはロボット」ではロボット三原則をめぐっての話題があったはず。もう記憶のかなたなので図書館で借りなおした。「ロボット三原則は破られない」というコンセプトでお話が展開していたと記憶している。

ひるがえって,今の生成AIは,”Prompt Injection”によって提供者が想定していない命令を実行してしまうなど,根本的な脆弱性を抱えている。

ポジトロン大脳を実現するにはまだ時間がかかりそうだ。

 

追記(2023.4.20)

「われはロボット」の中のいくつかの熟語が読めない。読めないのは日本語力が無いから,というのはその通りなのだが・・・ということは,英語小説も,大人向けのものは「日常生活では使用しない」用語がそれなりに出てくる,ということだ。考えてみれば当たり前なのだが。自分はIT系と,せいぜい数学と物理の書籍しか読んでいなかったので,それ以外の英語語彙がない。雑学の重要性が少し分かった。