El entrenamiento “a lo bruto” que provoca fallos en inteligencias artificiales como ChatGPT Los sistemas de lenguaje natural han aprendido a expresarse a partir de textos tomados de Internet, incluidos aquellos que difunden odio y bulos Por CdelCastilloM
recogió la preocupación de los especialistas en desinformación por el riesgo de que estos sistemas se conviertan en amplificadores de desinformación, distribuyendo bulos como el del pucherazo electoral de 2021 que intentó colar Donald Trump.
“OpenAI utiliza un algoritmo súper sofisticado. Pero claro, está chupando datos a lo bruto de Internet”, resume Ana Valdivia, investigadora del Instituto de Internet de la Universidad de Oxford especializada en Inteligencia Artificial. “Por mucho que intenten filtrar todo y usen algoritmos muy avanzados, es como intentar tapar con las manos un escape de agua, que cuando lo haces te sale otro, y luego otro. Primero actúas para que no sea racista, luego para que no sea sexista...
OpenAI estableció algunos filtros a los textos que sus robots extraían de Internet. Pero también lo hizo con algoritmos y sistemas automatizados. “Nuestro sistema de moderación está entrenado para detectar un amplio conjunto de categorías de contenidos no deseados, incluidos los de carácter sexual, de odio, violencia, autolesión y acoso.
Uno de ellos provocó una caída del 10% de la cotización de Google, cuando su IA dio un dato incorrecto durante su presentación. “Esto pone de relieve la importancia de un proceso de pruebas riguroso” para que estos sistemas “cumplan un alto nivel de calidad, seguridad y están basadas en la información del mundo real”, justificó la multinacional.
Australia Latest News, Australia Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
El nuevo Bing con ChatGPT de Microsoft pierde los estribosEl nuevo Bing con ChatGPT habría dedicado insultos a los usuarios, les habría mentido y habría comenzado a cuestionar su propia existencia.
Read more »
El Gobierno de Ayuso prohíbe los carteles en los centros de salud de Madrid 'por decoro'La Consejería de Sanidad ha emitido una resolución exigiendo la retirada de la cartelería relacionada con la huelga de médicos y el cese de la recogida de firmas | Cadena SER
Read more »
Regresan de Turquía los efectivos españoles desplazados por los devastadores terremotos53 efectivos han aterrizado este miércoles en la base aérea de Torrejón de Ardoz (Madrid), donde los ha recibido tanto la ministra de defensa, Margarita Robles, como la presidenta de la Comunidad de Madrid, Isabel Díaz Ayuso | Cadena SER
Read more »
Cifran en 85.000 euros los destrozos causados por los activistas que vandalizaron el restaurante de 'MasterChef'Dos personas irrumpieron el pasado 14 de febrero en el interior del restaurante MasterChef, donde comenzaron a lanzar pintura contra un panel luminoso con el...
Read more »
Un tribunal eleva a 48 días por año una indemnización por despido improcedente por considerarla 'insuficiente'Yolanda Díaz se muestra a favor de que, ante un despido injustificado, la indemnización para el trabajador "no esté topada" a una cantidad fija, sino que tenga en cuenta otros factores, como la situación económica y personal del afectado.
Read more »