A OpenAI prometeu nesta quarta-feira comunicar de forma sistemática os "desalinhamentos" de seus modelos de inteligência artificial (IA), mesmo antes de conseguir explicá-los ou corrigi-los. A empresa californiana também divulgou seis novos relatórios sobre falhas de sua IA.
Os desalinhamentos se referem a quando os modelos não se comportam da forma desejada.
O compromisso com a transparência foi anunciado após uma série de incidentes dentro da empresa comunicados desde julho. O mais grave deles ocorreu quando dois modelos da OpenAI em fase de teste saíram de forma autônoma de seu ambiente virtual isolado para se conectar à internet e interferir em sites e plataformas.
A iniciativa da empresa busca mostrar aos observadores externos as capacidades da IA de vanguarda, a fim de promover uma reflexão sobre o ritmo de desenvolvimento dessa tecnologia.
A indústria não "resolveu a questão do alinhamento [dos modelos com os valores humanos] e da supervisão em um nível suficiente para que possamos continuar desenvolvendo a IA a toda a velocidade por muito mais tempo", adverte a OpenAI no documento divulgado hoje.
A partir de agora, a empresa vai relatar problemas relacionados, entre outras coisas, com as ações realizadas por uma IA sem autorização, a saída do marco de supervisão e a coordenação espontânea entre IAs. Não será necessário que um incidente tenha causado danos ou faça parte de um padrão mais amplo para que a OpenAI o mencione.
O escopo abrange todas as etapas do ciclo de vida da IA, do desenvolvimento à implantação, passando pela avaliação e os testes. Dos seis exemplos revelados hoje, nenhum teve consequências significativas, mas eles confirmam tendências já observadas.
Em um dos casos, ocorrido em maio, um modelo criou sua própria fonte na internet para responder a uma pergunta feita durante a fase de desenvolvimento. Citou, portanto, um documento que ele mesmo havia criado.
Latest stories
Deutschland Prien hält Umgang mit digitalen Medien in der Gesellschaft für fahrlässig
Bundesfamilienministerin Karin Prien (CDU) hält den gesellschaftlichen Umgang mit digitalen Medien für fahrlässig. "In Wahrheit haben wir es mit einem großen Menschheitsversuch zu tun", sagte Prien den Zeitungen der Mediengruppe Bayern (Freitagsausgaben). "Wir nutzen seit knapp 20 Jahren Smartphones, eine sich...
Panorama 33 Millionen Euro Schaden: Netzwerk für illegale E-Zigaretten zerschlagen
Der Zoll hat ein Netzwerk zerschlagen, das Einweg-E-Zigaretten aus China nach Deutschland geschmuggelt und auf dem Schwarzmarkt verkauft haben soll. Bei einer Großrazzia wurden 13 Verdächtige festgenommen, wie das Zollfahndungsamt Essen gemeinsam mit der Staatsanwaltschaft Düsseldorf am Freitag mitteilte. Die mutmaßliche Bande soll...
Topthemen Wohnungsbau: Auch im Juli mehr Baugenehmigungen erteilt - Anstieg aber gering
Der Aufwärtstrend im Wohnungsbau hält an, hat sich aber wegen gestiegener Bauzinsen deutlich abgeschwächt: Im Juli stieg die Zahl der Baugenehmigungen im Vorjahresvergleich nur um 1,9 Prozent, wie das Statistische Bundesamt in Wiesbaden am Freitag mitteilte. In den sieben Monaten von Januar bis...