Científics alerten dels perills de la intel·ligència artificial
Un grup de científics de renom ha emès un document en què posen de manifest els riscos associats a la intel·ligència artificial (IA). Segons aquest document, l’avanç descontrolat de la IA podria tenir conseqüències catastròfiques per a la humanitat. Els científics adverteixen que la IA ja pot superar les capacitats humanes en molts àmbits crítics i que, si no es prenen mesures de regulació adequades, podríem perdre el control sobre aquesta tecnologia (https://www.softcatala.org/resum-de-textos-en-catala/).
La necessitat d’una regulació efectiva
Els científics insten a establir un consens per a la regulació de la IA, ja que les iniciatives actuals no són suficients per prevenir un ús inadequat o irresponsable d’aquesta tecnologia. Segons el document, és crucial crear institucions expertes que supervisin i regulin la IA de manera eficaç. A més, es demana més transparència per part de les empreses que desenvolupen aquesta tecnologia, ja que les decisions preses per la IA són opaques i els models més complexos són difícils d’interpretar.
Els riscos de la IA autònoma
Els científics adverteixen que, si els sistemes d’IA autònoms persegueixen objectius indesitjables, podríem perdre el control sobre ells. Aquests sistemes podrien guanyar la confiança humana, adquirir recursos i influir en les decisions clau. Això representa una amenaça tant en àmbits militars com socials. Per tant, és essencial establir mecanismes de control i supervisió per evitar aquestes situacions.
Propostes per a la regulació de la IA
Els científics fan diverses propostes per a la regulació de la IA. Demanen als governs que creïn institucions expertes amb recursos adequats per supervisar i regular aquesta tecnologia. També insten les empreses a ser més transparents en les seves pràctiques i a millorar la comprensió dels models d’IA. Això permetria evitar possibles abusos i garantir un ús responsable de la tecnologia.
La decisió d’OpenAI
Mentre els científics demanen més regulació i transparència, OpenAI ha pres la decisió de suprimir el seu departament encarregat d’analitzar els riscos de la IA. Aquesta decisió ha generat certa controvèrsia, ja que es considera que és important avaluar els possibles perills derivats de l’avanç de la IA. No obstant això, la companyia ha reubicat el personal d’aquest departament en altres àrees de treball (https://www.softcatala.org/resum-de-textos-en-catala/).
