¿Aniquilación de la humanidad por la inteligencia artificial? – Noticias – WDR – Noticias

Ya en 2023 hubo pioneros Amnistía Internacional– Expertos, incluidos Sam Altmanjefe de ChatGPT-Inventor AbreAmnistía Internacional – antes “Extincion de la humanidad“Le advirtieron sobre la inteligencia artificial (IA) Sandra Wachter, investigadora de IA y profesora de la universidad. OxfordLo describió en ese momento como “Las relaciones generales-un acto”.

Ahora los investigadores han publicado esta advertencia en la famosa revista Science.Ciencias“Bis. Profesor Christian Kersting de Tu Darmstadt considera esto “tonto“.

¿Cómo puede la inteligencia artificial borrar a la humanidad?

Autores Ciencias-El artículo que Kersting describe explícitamente como “colegas muy respetados“, es bastante específico cuando se trata de la posible extinción de la inteligencia artificial. Por ejemplo, sistemas autónomos podrían tomar el control de los sistemas de armas, incluidas las armas biológicas. Es concebible una “extinción de la humanidad” si los humanos perdieran el control de dichos sistemas.

Los investigadores también señalan que los ciberataques a gran escala, la manipulación social y la vigilancia ubicua son riesgos relativamente inofensivos. El investigador de IA Kersting no ve mucho en estos escenarios.

“Es un panorama un poco oscuro cuando hablamos del hecho de que en algún momento, un sistema potencial que no todos podemos imaginar del todo hará algo malo.“Deberías preocuparte más por esto”.Aquí y ahora” se cuida.

Investigadores en Ciencias-Los artículos admiten que no saben qué potencial de IA se desarrollará realmente en el futuro. Sin embargo, existe la posibilidad de que tales sistemas puedan mejorar las capacidades humanas de muchas maneras”.Areas criticas“Él trascenderá.

¿Cuándo podría la inteligencia artificial convertirse en una amenaza?

El artículo dice que este desarrollo es realmente posible durante la década actual o la próxima. Los expertos señalan el rápido desarrollo de la inteligencia artificial, pero al mismo tiempo se quejan de la falta de atención a la protección contra excesos no deseados o incluso peligrosos de la inteligencia artificial. Por ejemplo, sólo entre el 1% y el 3% de las publicaciones sobre el tema de la inteligencia artificial abordan “proteccion“.

Kersting considera que el plazo para la amenaza de la IA es más relajado: “No creo que vuelva a enfrentarme a eso en mi vida. “Se trata de”Todopoderoso“Sistemas, eso es”.es difícil de alcanzar“.

Si nos fijamos en los sistemas de IA actuales, nos encontramos en una situación muy difícil.Inestable“Nivel: más parecido al nivel de un gato que al de un gato”.Pasado mañana el mundo perecerá a causa de un sistema omnisciente.“.

Así lo confirmó el periodista tecnológico independiente Gregor Schmalzried, presentador del podcast AI de Bayerischer Rundfunk: Current AI Systems”.Una superinteligencia que podría representar una amenaza real para la humanidad está a kilómetros de distancia. Ésta tampoco es una opinión controvertida. Aún no hemos llegado a ese punto. Esta es realmente una preocupación teórica muy actual.“

Un desafío más reciente es la protección contra la desinformación a través de contenido generado por IA. Se necesitan proveedores de noticias comunitarios y profesionales, dice Kersting. Buenas noticias para todos los que ven la IA como una amenaza debido a la difusión de información errónea: “Tener un diálogo coherente es muy difícil.“Los humanos son claramente superiores.

¿Qué oportunidades abre la inteligencia artificial?

Para aprovechar el potencial positivo de la IA, las personas deben tomar decisiones sobre su uso. En medicina, por ejemplo, la inteligencia artificial puede hacer esto.Vidas salvadasKersting también destaca la protección que brinda el marco legal que la gente también define.

En última instancia, los humanos tenemos la responsabilidad de garantizar que no se desarrollen sistemas autónomos de IA en el futuro, como sugieren los autores de este artículo. Ciencias– Asunto terrible – fuera de su control.

Entonces, según lo que está surgiendo actualmente, tienen más probabilidades de ser salvadores que potenciales “ungores de la humanidad”: muestran su lado bueno durante las operaciones o vigilan a los pacientes en los hospitales.