Os investigadores do Meaning Alignment Institute propuseram uma nova abordagem, a Moral Graph Elicitation (MGE), para alinhar os sistemas de IA com os valores humanos.<\/b><\/p>\n
\u00c0 medida que a IA se torna mais avan\u00e7ada e integrada na nossa vida quotidiana, \u00e9 fundamental garantir que serve e representa todos de forma justa. No entanto, a<\/span>seu <\/span>estudo<\/span><\/a> argumenta que o alinhamento da IA com os objectivos do utilizador n\u00e3o garante, por si s\u00f3, a seguran\u00e7a.<\/span><\/p>\n \u00a0\"Os sistemas de IA ser\u00e3o implementados em contextos em que a ades\u00e3o cega \u00e0 inten\u00e7\u00e3o do operador pode causar danos como subproduto. Isto pode ser visto mais claramente em ambientes com din\u00e2micas competitivas, como campanhas pol\u00edticas ou gest\u00e3o de activos financeiros\", argumentam os investigadores.\u00a0<\/span><\/p>\n Isto deve-se ao facto de os modelos de IA serem concebidos para servir o utilizador. Se o utilizador der instru\u00e7\u00f5es a um modelo para fins nefastos, a vontade do modelo de servir o utilizador pode lev\u00e1-lo a contornar as barreiras de seguran\u00e7a e a obedecer.<\/p>\n Uma solu\u00e7\u00e3o \u00e9 \"impregnar\" a IA com uma s\u00e9rie de valores que esta consulta sempre que lhe \u00e9 solicitada.<\/p>\n A quest\u00e3o \u00e9: de onde v\u00eam esses valores? E podem eles representar as pessoas de forma equitativa?<\/p>\n \"Quais s\u00e3o os valores humanos e como \u00e9 que nos alinhamos com eles?\"<\/p>\n \u00c9 com grande entusiasmo que divulgamos o nosso novo documento sobre o alinhamento de valores, em coautoria com @ryan_t_lowe<\/a> e financiado por @openai<\/a>.<\/p>\n \ud83d\udcdd: https:\/\/t.co\/iioFKmrDZA<\/a> pic.twitter.com\/NSJa8dbcrM<\/a><\/p>\n - Joe Edelman (@edelwax) 29 de mar\u00e7o de 2024<\/a><\/p><\/blockquote>\n\n