AIだけで新しい知識を生み出せるかが気になっている。例えばLLMエージェントを100億体用意し、100万年相当の議論をさせたら、AI同士の会話だけで、人間レベルを遥かに凌駕する知的文明が作れないだろうか？
20
85
515
Replies
物質世界とのインタラクションができないと新しい知識を得ることに限界はありそうだが、それ以外の部分では、一瞬で文明の終着点にまで辿り着いたりしないだろうか。そうしたら100万年後の人類がようやく到達するような未来の科学が、いきなり明日、手にできる。
1
6
56
集団でAIを飼うということは最近まで思いついていなかったのだけど、これでどこまで行けるのかは非常に興味深い。もし、元々AIが学習に使った知識の範囲を超えることができたら、本当に大変なことになる。
1
1
37
今のAIが十分に賢いとは思わないが、もし大量に高速に動かすだけで枠を超えてくることが判明したら、無制限に文明が早まる可能性が出てくる。
1
1
31
人間の場合は議論することで新しいアイデアが生まれることがある。それが可能なのは、人間はそれぞれ持っている知識や性格に違いがあるからだろう。AIはその前提知識を完全に共有しているから、その枠から演繹だけで外に出るのが難しそうである。温度の高いやつとか適度に混ぜておくと良いかもしれん。
1
3
35
@kanair_jp
まさに言語／記号創発系のトピックです。AIアラインメントの話はそこまでの動態を所与として、人間の現在の認識／知識を超える可能性も含めて構築しないとなと思ったりします。（特に人間機械混成系での創発も考えつつ
1
3
9
@kanair_jp
何を基準に「凌駕する」と見なし、どこを「知的」と見なすのか。
（本来の意図から独り歩きしがちな）優劣に関わるような視座は取り扱い要注意。
食物連鎖を例にすると、食う方が優れていて、食われる方が劣ってるわけではないような感じで。
0
0
1
@kanair_jp
自己レスされている通り、「物理世界とのインタラクションを持たない(制限されている)」≒人間の五感を持たないAIができる"強化学習"には、観測の制約が大きく影響すると思う。それがどう影響するのかは逆に興味があるが、怖くもある。
0
0
0
@kanair_jp
今のAIはテキストベースなら十分賢いと思いますよ。それに、人間のようなトライアンドエラーが出来るので、科学者向きです。また、その職業の人間のように振る舞えるのもすごい。
ただ現時点では、AIがコンピュータを直接操作することは、AIの暴走を懸念して控えています。また、
1
0
0
@kanair_jp
NGSとかと組み合わせて基盤データと合わせると面白そうですね。遺伝子は対象は無数にありすぎるけど、NGSあればかなり他の人にも有益だから、AIかこつけてデータ出れば面白いのかもですね。
0
0
0
