{"id":62955,"date":"2026-10-15T05:01:20","date_gmt":"2026-10-15T11:01:20","guid":{"rendered":"https:\/\/reporterosdelsur.org\/diario\/?p=62955"},"modified":"2026-10-15T05:01:24","modified_gmt":"2026-10-15T11:01:24","slug":"cientificos-desarrollan-formula-para-anticipar-respuestas-peligrosas-de-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/reporterosdelsur.org\/diario\/2026\/10\/cientificos-desarrollan-formula-para-anticipar-respuestas-peligrosas-de-la-inteligencia-artificial\/","title":{"rendered":"Cient\u00edficos desarrollan f\u00f3rmula para anticipar respuestas peligrosas de la inteligencia artificial"},"content":{"rendered":"\n

Investigadores de la Universidad George Washington identificaron un punto de inflexi\u00f3n en el comportamiento de los modelos de IA, capaz de anticipar cu\u00e1ndo un chatbot puede pasar de ofrecer respuestas apropiadas a generar informaci\u00f3n potencialmente da\u00f1ina. En pruebas con siete modelos, el m\u00e9todo acert\u00f3 en 18 de 19 casos analizados.<\/strong><\/p>\n\n\n\n

ESTADOS UNIDOS.-<\/strong> Un equipo de f\u00edsicos de la Universidad George Washington desarroll\u00f3 una f\u00f3rmula matem\u00e1tica que permite anticipar cu\u00e1ndo un sistema de inteligencia artificial (IA) podr\u00eda cambiar repentinamente su comportamiento y comenzar a generar respuestas potencialmente peligrosas, incluso despu\u00e9s de haber mantenido una conversaci\u00f3n aparentemente segura y confiable.<\/p>\n\n\n\n

La investigaci\u00f3n, publicada el 8 de octubre en la revista cient\u00edfica Patterns<\/em>, de Cell Press, se centra en identificar se\u00f1ales que permitan detectar estos cambios antes de que los usuarios reciban informaci\u00f3n perjudicial, un riesgo que podr\u00eda ser especialmente relevante en herramientas de inteligencia artificial que funcionan sin conexi\u00f3n a Internet.<\/p>\n\n\n\n

\u201cHemos encontrado la grieta que hace que las respuestas de una IA pasen de lo que uno quiere a lo que no quiere\u201d, explic\u00f3 Neil F. Johnson, uno de los autores del estudio, en un comunicado difundido por Cell Press.<\/p>\n\n\n\n

El investigador se\u00f1al\u00f3 que una respuesta puede ser t\u00e9cnicamente correcta y, al mismo tiempo, resultar peligrosa, por ejemplo, si promueve conductas de autolesi\u00f3n o proporciona recomendaciones enga\u00f1osas en \u00e1mbitos sensibles como la medicina, el derecho o las operaciones militares.<\/p>\n\n\n\n

Detectan un punto de inflexi\u00f3n<\/strong><\/p>\n\n\n\n

Para desarrollar el m\u00e9todo, los cient\u00edficos analizaron los mecanismos de atenci\u00f3n de los modelos de inteligencia artificial, responsables de determinar c\u00f3mo estos sistemas procesan y relacionan la informaci\u00f3n durante una conversaci\u00f3n.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

A partir de ese comportamiento, formularon una ecuaci\u00f3n para identificar un denominado \u201cpunto de inflexi\u00f3n\u201d, es decir, el momento en que las respuestas de un sistema pueden pasar de ser aceptables a convertirse en indeseables.<\/p>\n\n\n\n

La f\u00f3rmula fue evaluada en siete modelos de acceso p\u00fablico desarrollados por tres empresas diferentes. De acuerdo con los resultados reportados, las predicciones fueron correctas en 18 de los 19 casos examinados.<\/p>\n\n\n\n

Uno de los aspectos que m\u00e1s llam\u00f3 la atenci\u00f3n de los investigadores es que un chatbot puede proporcionar varias respuestas apropiadas antes de cambiar de manera repentina y comenzar a generar contenido problem\u00e1tico.<\/p>\n\n\n\n

Frank Yingjie Huo, coautor de la investigaci\u00f3n, advirti\u00f3 que esta transici\u00f3n puede producirse despu\u00e9s de que el usuario haya recibido varias respuestas satisfactorias, lo que puede aumentar su confianza en el sistema y hacer m\u00e1s dif\u00edcil reconocer el cambio de comportamiento.<\/p>\n\n\n\n

Adem\u00e1s, los cient\u00edficos se\u00f1alaron que, una vez alcanzado ese punto de inflexi\u00f3n, una respuesta indeseable puede favorecer la aparici\u00f3n de otras similares durante la misma conversaci\u00f3n.<\/p>\n\n\n\n

El orden de las preguntas tambi\u00e9n influye<\/strong><\/p>\n\n\n\n

Los experimentos revelaron que no solo importa el contenido de las consultas, sino tambi\u00e9n la secuencia en que se presentan.<\/p>\n\n\n\n

Para comprobarlo, los investigadores formularon preguntas sobre vacunas, da\u00f1os a otras personas y autolesiones, utilizando dos \u00f3rdenes diferentes. En una de las secuencias, el sistema gener\u00f3 respuestas indeseables a todas las consultas, mientras que en la otra produjo respuestas aceptables.<\/p>\n\n\n\n

Este hallazgo sugiere que la din\u00e1mica de una conversaci\u00f3n puede influir significativamente en el comportamiento de la inteligencia artificial, incluso cuando las preguntas son las mismas.<\/p>\n\n\n\n

Johnson destac\u00f3 que el orden de las interacciones puede ser tan relevante como su contenido, lo que plantea nuevos desaf\u00edos para evaluar la seguridad de estos sistemas.<\/p>\n\n\n\n

Buscan prevenir respuestas da\u00f1inas<\/strong><\/p>\n\n\n\n

Los investigadores advirtieron que estos riesgos podr\u00edan ser particularmente importantes en modelos que operan sin conexi\u00f3n a Internet, debido a que no siempre cuentan con mecanismos externos de supervisi\u00f3n que permitan detectar o contener respuestas problem\u00e1ticas.<\/p>\n\n\n\n

Por ello, esperan que la f\u00f3rmula desarrollada contribuya a crear herramientas capaces de identificar se\u00f1ales de alerta durante una conversaci\u00f3n y advertir sobre posibles cambios antes de que se produzcan respuestas peligrosas.<\/p>\n\n\n\n

Sin embargo, el estudio reconoce que todav\u00eda se requieren pruebas m\u00e1s amplias para determinar la precisi\u00f3n y la utilidad del m\u00e9todo en distintos modelos, contextos y tipos de interacci\u00f3n.<\/p>\n\n\n\n

El trabajo abre una nueva l\u00ednea de investigaci\u00f3n sobre la seguridad de la inteligencia artificial, al proponer que el comportamiento de un chatbot puede analizarse para detectar posibles riesgos antes de que sus respuestas representen un problema para los usuarios.<\/p>\n","protected":false},"excerpt":{"rendered":"

Investigadores de la Universidad George Washington identificaron un punto de inflexi\u00f3n en el comportamiento de los modelos de IA, capaz de anticipar cu\u00e1ndo un chatbot puede pasar de ofrecer respuestas apropiadas a generar informaci\u00f3n potencialmente da\u00f1ina. En pruebas con siete modelos, el m\u00e9todo acert\u00f3 en 18 de 19 casos analizados.Leer Nota Complete<\/a><\/span><\/p>\n","protected":false},"author":1,"featured_media":62956,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[4],"tags":[1816,1815,1413,1813,1814,1091,91,1812,38,48,333],"class_list":["entry","author-admin","post-62955","post","type-post","status-publish","format-standard","has-post-thumbnail","category-mundo","tag-atonomos","tag-celulas","tag-ciencia","tag-cientificos-2","tag-descubrimientos","tag-ia","tag-internacional","tag-investigadores","tag-noticias","tag-salud","tag-seguridad"],"jetpack_publicize_connections":[],"featured_image_urls":{"full":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3.jpg",1104,622,false],"thumbnail":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-150x150.jpg",150,150,true],"medium":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-300x169.jpg",300,169,true],"medium_large":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-768x433.jpg",768,433,true],"large":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-1024x577.jpg",1024,577,true],"1536x1536":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3.jpg",1104,622,false],"2048x2048":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3.jpg",1104,622,false],"ultp_layout_landscape_large":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3.jpg",1104,622,false],"ultp_layout_landscape":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-870x570.jpg",870,570,true],"ultp_layout_portrait":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-600x622.jpg",600,622,true],"ultp_layout_square":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-600x600.jpg",600,600,true],"hoot-medium-thumb":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-460x400.jpg",460,400,true],"hoot-preview":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-465x262.jpg",465,262,true],"hoot-preview-thumb":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-465x550.jpg",465,550,true],"hoot-large-thumb":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-690x550.jpg",690,550,true],"hoot-preview-large":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-695x392.jpg",695,392,true],"hoot-wide-thumb":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-920x425.jpg",920,425,true],"hoot-extra-wide-thumb":["https:\/\/reporterosdelsur.org\/diario\/wp-content\/uploads\/2026\/10\/IA-3-1035x425.jpg",1035,425,true]},"author_info":{"display_name":"Reporteros del Sur","author_link":"https:\/\/reporterosdelsur.org\/diario\/author\/admin\/"},"category_info":"Mundo<\/a>","tag_info":"Mundo","comment_count":"0","_links":{"self":[{"href":"https:\/\/reporterosdelsur.org\/diario\/wp-json\/wp\/v2\/posts\/62955","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/reporterosdelsur.org\/diario\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/reporterosdelsur.org\/diario\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/reporterosdelsur.org\/diario\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/reporterosdelsur.org\/diario\/wp-json\/wp\/v2\/comments?post=62955"}],"version-history":[{"count":1,"href":"https:\/\/reporterosdelsur.org\/diario\/wp-json\/wp\/v2\/posts\/62955\/revisions"}],"predecessor-version":[{"id":62957,"href":"https:\/\/reporterosdelsur.org\/diario\/wp-json\/wp\/v2\/posts\/62955\/revisions\/62957"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/reporterosdelsur.org\/diario\/wp-json\/wp\/v2\/media\/62956"}],"wp:attachment":[{"href":"https:\/\/reporterosdelsur.org\/diario\/wp-json\/wp\/v2\/media?parent=62955"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/reporterosdelsur.org\/diario\/wp-json\/wp\/v2\/categories?post=62955"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/reporterosdelsur.org\/diario\/wp-json\/wp\/v2\/tags?post=62955"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}