Revisión de los conceptos clave de la formación en IA
Revisión de los conceptos clave de la formación en IA
En este capítulo, abrimos la cortina y analizamos la sala de máquinas de la IA moderna. Hemos ido más allá de lo que la IA puede hacer y empezamos a entender cómo aprende. Este es uno de los cambios más importantes en la comprensión de la IA: no se programa con reglas rígidas, sino que se basa en los datos, de forma muy parecida a como un ser humano aprende de las experiencias de la vida.
De esta exploración, se destacan dos ideas poderosas y conectadas entre sí. Explican tanto la increíble y amplia inteligencia de la IA como su potencial para obtener una experiencia muy específica y, a veces, defectuosa.
Concepto clave: Todos contribuimos a la formación en IA
La IA se entrenó con datos disponibles públicamente en Internet, incluido contenido de redes sociales, blogs y otras plataformas. Esto significa que la IA ha aprendido de una amplia gama de expresiones y conocimientos humanos.
Concepto clave: el ajuste fino es una forma de sesgo
El ajuste fino es como enseñarle a una IA a ser rapero o músico clásico. Se trata de ajustar la comprensión general de la IA para que destaque en un estilo o género específico. Sin embargo, esta especialización también puede introducir sesgos basados en los datos específicos de los que aprende.
Comprobación rápida
Si una IA se entrena previamente en todo Internet y luego se ajusta a un conjunto de datos compuesto únicamente por documentos legales, ¿cuál es el resultado más probable?
Resumen: revisión de los conceptos clave de la formación en IA
Lo que cubrimos:
- El vasto conocimiento de la IA proviene de su formación en la Internet pública, una biblioteca escrita por todos nosotros.
- El perfeccionamiento es el proceso de especializar esos conocimientos generales, que es una forma eficaz de crear expertos, pero también una forma de introducir sesgos específicos.
- El proceso de formación es un arma de doble filo: la IA aprende de nuestra inteligencia colectiva, pero también aprende de nuestros defectos, sesgos y errores colectivos.
Por qué es importante:
- Estos conceptos son la clave para un uso responsable de la IA. Cuando comprendes que los resultados de una IA son un reflejo de su formación, podrás juzgar mejor sus respuestas, anticipar sus posibles sesgos y utilizarlos de forma más eficaz y segura.
A continuación:
- Haremos el cuestionario del capítulo 7 y, a continuación, nos sumergiremos de lleno en el tema crucial de la ética y la seguridad de la IA, empezando por «La ética de la IA: equilibrio entre innovación y responsabilidad».