Investigadores del Meaning Alignment Institute han propuesto un nuevo enfoque, Moral Graph Elicitation (MGE), para alinear los sistemas de IA con los valores humanos.<\/b><\/p>\n
A medida que la IA avanza y se integra en nuestra vida cotidiana, es primordial garantizar que sirva y represente a todos de forma justa. Sin embargo<\/span>su <\/span>estudiar<\/span><\/a> sostiene que alinear la IA con los objetivos del usuario no garantiza por s\u00ed solo la seguridad.<\/span><\/p>\n \u00a0\"Los sistemas de IA se desplegar\u00e1n en contextos en los que la adhesi\u00f3n ciega a la intenci\u00f3n del operador puede causar da\u00f1os como subproducto. Esto puede verse m\u00e1s claramente en entornos con din\u00e1micas competitivas, como las campa\u00f1as pol\u00edticas o la gesti\u00f3n de activos financieros\", argumentan los investigadores.\u00a0<\/span><\/p>\n Esto se debe a que los modelos de IA est\u00e1n dise\u00f1ados para servir al usuario. Si el usuario da instrucciones a un modelo con fines nefastos, el af\u00e1n del modelo por servir al usuario puede hacer que se salte los guardarra\u00edles y obedezca.<\/p>\n Una soluci\u00f3n es \"impregnar\" a la IA de una serie de valores que consulte cada vez que se le solicite.<\/p>\n La pregunta es: \u00bfde d\u00f3nde proceden esos valores? \u00bfY pueden representar a las personas de forma equitativa?<\/p>\n \"\u00bfQu\u00e9 son los valores humanos y c\u00f3mo nos alineamos con ellos?\".<\/p>\n Estamos muy contentos de publicar nuestro nuevo documento sobre la alineaci\u00f3n de valores, en coautor\u00eda con @ryan_t_lowe<\/a> y financiado por @openai<\/a>.<\/p>\n \ud83d\udcdd: https:\/\/t.co\/iioFKmrDZA<\/a> pic.twitter.com\/NSJa8dbcrM<\/a><\/p>\n - Joe Edelman (@edelwax) 29 de marzo de 2024<\/a><\/p><\/blockquote>\n\n