Ochranné mantinely pre božskú umelú inteligenciu: Stratégie superzarovnania na zabezpečenie budúcnosti AGI
Pozadie: AGI a problém zosúladenia Umelá všeobecná inteligencia (AGI) je definovaná ako AI so širokými, ľudskej úrovne porovnateľnými kognitívnymi schopnosťami naprieč mnohými odbormi – systém, ktorý sa dokáže učiť alebo pochopiť akúkoľvek intelektuálnu úlohu, ktorú zvládne človek arxiv.org. Ak sa to dosiahne,
