ByteDance a récemment répondu aux rumeurs concernant un « stagiaire ayant perturbé l'entraînement d'un grand modèle ». La société a confirmé qu'un stagiaire avait effectivement intentionnellement perturbé l'entraînement du modèle d'un projet de recherche de l'équipe technique de monétisation, mais que cet acte n'avait pas affecté les projets commerciaux officiels ni les activités en ligne de la société, et n'impliquait aucun autre grand modèle de ByteDance.
De plus, ByteDance a indiqué que les informations circulant sur le net concernant « plus de 8 000 cartes et des pertes de plusieurs millions de dollars » étaient gravement exagérées.
Selon les informations publiques, le stagiaire, pendant son stage au sein de l'équipe technique de monétisation de ByteDance, mécontent de la répartition des ressources de l'équipe, a exploité une faille de la plateforme Hugging Face et utilisé un code malveillant pour perturber l'entraînement du modèle de l'équipe.
Actuellement, le stagiaire a été licencié et ByteDance a signalé l'incident à l'alliance sectorielle et à l'université du stagiaire.
Des experts en sécurité informatique ont souligné que cet incident mettait en lumière des problèmes de gestion de la sécurité de la formation technique chez ByteDance. L'entreprise n'a pas mis en place une isolation des droits d'accès suffisante ni d'audit du code partagé. Normalement, chaque modification importante du code doit faire l'objet d'un audit, quelle que soit la personne qui effectue l'opération, et il doit y avoir une trace de chaque action. Il est impossible pour une seule personne de modifier le code.
Récemment, ByteDance a investi massivement dans la technologie de l'IA. Outre le populaire chatbot Doubao, l'entreprise propose également Jidream, un outil de génération de vidéos IA, et Haimian Music, un outil de génération de musique IA.
De plus, ByteDance prévoit d'investir environ 1 milliard de ringgits malaisiens (soit environ 2,13 milliards de dollars américains) dans la création d'un centre d'IA en Malaisie afin de stimuler le développement de l'économie numérique dans la région. Cela témoigne de la détermination et de l'ampleur des investissements de ByteDance dans le domaine de l'IA.
