Científics Adverteixen sobre els Riscos de la Intel·ligència Artificial
Un grup de destacats científics a nivell mundial ha subscrit un informe conjunt en què alerten sobre les possibles amenaces associades a la intel·ligència artificial (IA). El document, publicat a la revista Science, adverteix que aquesta tecnologia podria comportar riscos significatius, inclosa l’extinció de la humanitat. Segons l’informe, l’avenç descontrolat de la IA podria ser la pèrdua massiva de vides i la degradació de l’ecosistema, així com la marginació o fins i tot la desaparició de l’espècie humana .
Riscos Associats a la Intel·ligència Artificial
Els científics alerten que ja és factible desenvolupar sistemes d’IA altament potents capaços de superar les capacitats humanes en diversos àmbits crítics. Per aquesta raó, insten a establir consensos per regular aquesta tecnologia, atès que actualment no hi ha un marc regulador adequat. A més, assenyalen que les iniciatives de governança actuals no tenen els mecanismes i les institucions necessaris per prevenir el mal ús i la imprudència, i amb prou feines aborden la qüestió dels sistemes autònoms .
Els experts adverteixen que un cop els sistemes d’IA autònoms persegueixin objectius no desitjats, podria resultar impossible controlar-los. Exemplifiquen que aquests sistemes podrien guanyar la confiança humana, obtenir recursos i influir en la presa de decisions clau, cosa que representa una amenaça en múltiples nivells, des de l’àmbit militar fins al social.
Propostes per Regular la Intel·ligència Artificial
Els 25 experts fan recomanacions concretes, instant els governs a establir institucions especialitzades d’acció ràpida per supervisar la IA, les quals han de tenir un suport financer sòlid. Així mateix, sol·liciten a les empreses que desenvolupen aquesta tecnologia que siguin més transparents en els processos de presa de decisions, atès que l’opacitat en la presa de decisions de la IA i la complexitat dels models grans en dificulten la interpretació. A més, ressalten la importància de comprendre el funcionament intern d’aquests sistemes.
Mentre aquests científics advoquen per una regulació i transparència més grans, s’ha informat que OpenAI ha dissolt el seu departament encarregat d’analitzar els riscos futurs de la IA. Tot i que aquesta divisió, anomenada Superalignment, tenia previst destinar fins a un 20% de la potència de càlcul d’OpenAI durant quatre anys per avaluar possibles perills derivats de la intel·ligència artificial, segons fonts dels Estats Units, el personal d’aquesta secció està sent reubicat en altres àrees dins de la companyia.
