Varovalke za božansko umetno inteligenco: Strategije superporavnave za varno prihodnost splošne umetne inteligence
Ozadje: AGI in problem poravnave Umetna splošna inteligenca (AGI) je opredeljena kot UI s širokimi, človeku primerljivimi kognitivnimi sposobnostmi na različnih področjih – sistem, ki se lahko nauči ali razume katerokoli intelektualno nalogo, ki jo zna človek arxiv.org. Če jo dosežemo, bi
