El destacado violinista canadiense Ashley MacIsaac dice que la función AI Overview de Google lo calificó erróneamente de delincuente sexual convicto, lo que llevó a los organizadores de un concierto a cancelar un concierto la semana pasada.
Antes de continuar, necesitaré que veas el vídeo musical de “Sleepy Maggie” de Ashley MacIsaac (con la voz en gaélico escocés de Mary Jane Lamond). Al no ser de Canadá, donde esta canción fue un éxito en 1995, nunca antes había disfrutado de este suntuoso festín de imágenes y sonidos de los 90, pero ese descuido se ha corregido gracias a esta noticia. Para obtener mejores resultados, enciende un cigarrillo de clavo de olor antes de presionar el botón de reproducción:
De todos modos, según un artículo publicado en The Globe and Mail el martes, el tipo en ese video con el violín, Ashley MacIsaac, se estaba preparando para actuar en la comunidad de la Primera Nación Sipekne'katik en el centro de Nueva Escocia cuando los organizadores repentinamente se echaron atrás, aparentemente después de haber leído que MacIsaac tenía condenas que sonaban espantosas en su historial por agresión sexual y “atracción por Internet”.
Más tarde se supo, dice MacIsaac, que estos organizadores habían visto un resultado de Google AI Overview que había mezclado la biografía de MacIsaac con otra, mucho más horrible, MacIsaac, también del este de Canadá.
Probablemente recuerde la controversia sobre la función Descripciones generales de IA de Google que se remonta a 2024, cuando debutó, y rápidamente se convirtió en una broma después de decirle a la gente que le pusiera pegamento a la pizza y cosas así. Por mi parte, le di seis meses a la función para mejorarla. antes de revisarloy encontré una serie de tipos de errores extraños que todavía era propenso a cometer en lo que creía que eran simulaciones plausibles de casos de uso del mundo real. Google me dijo en ese momento que todavía tenía «trabajo por hacer en el lado de la calidad».
Si la caracterización de MacIsaac es correcta, todavía lo es, y realmente es necesario que no se cometan errores como el que se alega aquí. Hay una cita elegida en el Globe and Mail de Clifton van der Linden, profesor asistente de la Universidad McMaster que ha investigado la información errónea sobre la IA. «Estamos viendo una transición en los motores de búsqueda de navegadores de información a narradores», dijo al periódico.
Las descripciones generales de IA son fragmentos de texto originales, algo así como respuestas de chatbot que se actualizan cuando se busca un término en Google, y se derivan de cualquier cosa que Google pueda encontrar en línea y que parezca estar relacionada con el tema que estás buscando. Nunca se sabe cómo alguien podría formular una búsqueda sobre usted, porque las posibilidades son infinitas y, por lo tanto, nunca se sabe cómo podría salir mal la descripción general de la IA.
MacIsaac se pregunta en el artículo de Globe and Mail si otras personas lo habrían buscado en Google y habrían visto resultados similares sin decírselo. Considera que esto es un posible motivo de preocupación, porque cree que pudo haber perdido su trabajo o haberse ganado un enemigo que creyó lo que leyó y decidió causarle daño.
Por si sirve de algo, la portavoz de Google, Wendy Manton, dijo al Globe and Mail lo siguiente: «La búsqueda, incluidas las descripciones generales de IA, es dinámica y cambia con frecuencia para mostrar la información más útil. Cuando surgen problemas, como si nuestras funciones malinterpretan el contenido web o pierden algún contexto, utilizamos esos ejemplos para mejorar nuestros sistemas y podemos tomar medidas según nuestras políticas». Ese diario también dice que Google “modificó los resultados de búsqueda del músico”.
Además, un representante de la comunidad de la Primera Nación Sipekne'katik le dijo a MacIsaac: «Lamentamos profundamente el daño que este error causó a su reputación, su sustento y su sentido de seguridad personal», y le dijo que era bienvenido a actuar allí en el futuro, dice. El Globe and Mail no recibió respuesta de la Primera Nación Sipekne'katik cuando solicitaron un comentario.
Todo esto parece un gran problema para muchas personas debido a una aparente alucinación de IA. Pero bueno, al menos aprendí sobre «Sleepy Maggie».
