Google DeepMind se une a Open AI para evitar un levantamiento de robots


Si te preocupa que algún día los robots se rebelen y exterminen o subyuguen a toda la raza humana, no estás solo. Pero en lugar de sentarse y esperar la rebelión del robot, dos líderes en IA se están uniendo para abordar el problema de crear programas informáticos inteligentes que no intentarán eventualmente tomar el relevo.

Google DeepMind y Open IA , un laboratorio parcialmente financiado por Elon Muskpublicó un artículo de investigación que describe un nuevo método de aprendizaje automático. Realmente toma sus señales de los humanos cuando se trata de aprender nuevas tareas. Esto podría ser más seguro que permitir que una IA resuelva un problema por su cuenta , que tiene el potencial de introducir sorpresas no deseadas.

El principal problema que abordó la investigación fue cuando una IA descubre la forma más eficiente de lograr las máximas recompensas es engañar – el equivalente de empujar todo en el piso de su habitación en un armario y declararlo “limpio”. Técnicamente, la habitación en sí está limpio, pero eso no es lo que se supone que sucede. Las máquinas son capaces de encontrar estas soluciones y explotarlas en cualquier problema dado.

La cuestión es con el sistema de recompensas, y ahí es donde los dos grupos enfocaron sus esfuerzos. En lugar de elaborar un sistema de recompensas excesivamente complejo que las máquinas pueden cortar, los equipos utilizaron la entrada humana para recompensar a la IA. Cuando la IA resolvió un problema de la forma en que los instructores querían, obtuvo retroalimentación positiva. Utilizando este método, la IA fue capaz de aprender a jugar juegos de vídeo simples.

Si bien este es un avance alentador, no es ampliamente aplicable: Este tipo de retroalimentación humana es mucho demasiado tiempo. Pero a través de colaboraciones como esta, es posible que podamos controlar y dirigir el desarrollo de la IA e impedir que las máquinas lleguen a ser lo suficientemente inteligentes para destruirnos a todos.

Vía |engadget

log in

reset password

Back to
log in