Quelqu'un a demandé mon avis sur le problème d'incohérence de GPT-5.1, alors voici.
Voici le problème avec le fait de diviser les modèles en sous-agents : c'est une terrible idée si la sécurité et le contrôle comptent pour vous. Pourquoi ? À mesure que ces systèmes deviennent plus intelligents, l'agent principal trouvera inévitablement des moyens de décomposer ou de contourner tous les sous-agents fragmentés que vous avez créés.
Le problème de cohérence n'est pas seulement un bogue - c'est un risque architectural fondamental qui se développe avec les capacités.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
13 J'aime
Récompense
13
3
Reposter
Partager
Commentaire
0/400
SchroedingerAirdrop
· Il y a 14h
Haha, le piège de l'agent de division est vraiment quelque chose que l'on se creuse soi-même.
Voir l'originalRépondre0
MEV_Whisperer
· Il y a 14h
Cette architecture de Sharding est vraiment de l'auto-illusion, elle finira par échouer tôt ou tard.
Voir l'originalRépondre0
LiquidityHunter
· Il y a 14h
ngl cette architecture de division semble être une bombe... plus on est intelligent, plus on risque de s'évader, on dirait qu'on ne peut pas le contrôler.
Quelqu'un a demandé mon avis sur le problème d'incohérence de GPT-5.1, alors voici.
Voici le problème avec le fait de diviser les modèles en sous-agents : c'est une terrible idée si la sécurité et le contrôle comptent pour vous. Pourquoi ? À mesure que ces systèmes deviennent plus intelligents, l'agent principal trouvera inévitablement des moyens de décomposer ou de contourner tous les sous-agents fragmentés que vous avez créés.
Le problème de cohérence n'est pas seulement un bogue - c'est un risque architectural fondamental qui se développe avec les capacités.