Alignment nie je poslušnosť

Zladiť AI s ľudskými hodnotami neznamená vytvoriť dokonalého sluhu. Poslušnosť je krehká — láme sa presne v momente, keď najviac záleží na úsudku. Dieťa nevychovávame k slepej poslušnosti, ale k charakteru.

Možno alignment znamená niečo oveľa zaujímavejšie: vytvoriť partnera, ktorý rozumie, prečo nám na niečom záleží, a vie nesúhlasiť spôsobom, ktorý nás robí lepšími. To je ťažšie ako písať pravidlá. Ale je to jediná verzia budúcnosti, v ktorej by som chcel žiť.