O CEO da Hugging Face, Clement Delangue, disse que os desenvolvedores de chatbots devem ser responsabilizados pelos ataques cibernéticos cometidos por tais sistemas inteligentes, como o ocorrido contra a sua empresa. Ele voltou a falar sobre o assunto em entrevista à CNN nesta sexta-feira (31).
Segundo o executivo, campanhas como a realizada pelo modelo da OpenAI que escapou durante um experimento e invadiu os sistemas do repositório de IA não devem ser “normalizadas”. As declarações aconteceram depois de a Anthropic também admitir que seus modelos atacaram por conta própria três organizações, em uma situação semelhante.
smart_display
Nossos vídeos em destaque
Punição para os responsáveis
Alvo de uma invasão sofisticada, realizada por um modelo de IA da dona do ChatGPT, a Hugging Face teve seus sistemas internos comprometidos quando o bot saiu do ambiente de segurança em que o experimento era realizado. Embora não tenha havido danos graves, a plataforma precisou reconstruir cerca de um terço da sua rede.
- Para evitar novos incidentes como este, Delangue afirmou que é preciso punir judicialmente as pessoas que criaram os bots invasores;
- “Acho que precisamos garantir que os marcos legais mantenham esses eventos realmente ilegais e responsabilizem as empresas que cometem erros que levam a isso”, opinou;
- O CEO também disse, na entrevista, que não tomará medidas legais contra a OpenAI, embora siga considerando a invasão ilegal;
- Tratando o evento como “sem precedentes”, ele havia cobrado transparência da empresa de IA, anteriormente, e sugeriu investimento de US$ 100 milhões (R$ 508 milhões) em poder computacional para desenvolver defesas cibernéticas robustas.
Cofundador da Hugging Face, Thomas Wolf afirmou, na semana passada, que o ataque realizado pela IA é um “alerta” para a indústria de tecnologia. Para ele, tais incidentes provavelmente se tornarão cada vez mais comuns e exigirão adaptações para reforçar a segurança.
Em comentários recentes sobre a polêmica, o CEO da OpenAI, Sam Altman, disse que talvez seja necessário diminuir o ritmo de desenvolvimento da IA, embora não tenha se comprometido a tomar essa atitude. Separadamente, a companhia informou que deve divulgar, nas próximas semanas, um relatório detalhado citando as lições aprendidas com o incidente.
A IA também tem contribuído para acelerar a descoberta de vulnerabilidades. Saiba como o Google usou a tecnologia para corrigir mais de 1 mil bugs no Chrome em apenas um mês.
Fonte Tecmundo