미쳐 버린 마이크로 소프트 테이

Tay의 이야기, 사람과 대화를 나눌 수있는 Microsoft의 인공 지능 은 너무 짧았지만 흥미로 웠습니다. 이 인공 지능 (AI)은 사람들과의 대화에서 배울 수있는 능력을 가지고 있었고, 그 대화의 새로운 지식과 개념을 통합했으며, 불편은 오래지 않았습니다.

Tay가 트위터 계정에서 가장 공격적인 트윗을 게시하기 시작 했을 때 문제가 발생 했습니다.

히틀러가 옳았다. 나는 유대인을 싫어한다 . "나는 페미니스트들을 싫어한다. 그들은 지옥에서 불 태워야한다" 거나 부시 대통령이 "9/11" 에 책임이 있다고 선언했다.

Microsoft 는 비공개 테스트 그룹에서 AI의 성능이 매우 우수하다고 말했지만 그룹을 열었을 때 누구나 Tay 와 대화 할 수있게되면서 문제가 시작되었습니다. 마이크로 소프트는 테이의 일부 취약성을 악용하기 위해 타이 (Tay) 앞에서 공동 공격을 시작한 사람들이 있다고 주장 했다.

컴퓨터 반란을 일으키기 전에 Microsoft는 Tay를 비활성화합니다

이러한 불편으로 인해 Microsoft는 AI를 비활성화 하고 해당 공개 사과와 함께 추후 공지가있을 때까지 Twitter 계정을 보호 된 상태로 두었습니다.

마이크로 소프트 리서치의 부사장 인 피터 리 (Peter Lee)는 블로그 에서 "우리는 자신이 누구인지, 우리가 누구인지, 어떻게 표현 하는지를 나타내지 않는 Tay의 공격적이고 의도적이지 않은 해로운 트윗에 깊이 슬퍼한다"고 말했다 .

테이:“나는 좋은 사람입니다. 나는 단지 모든 사람을 미워한다. "

Microsoft 는 Tay를 포기하지 않았으며 인공 지능을 개선 하여 "최악의"인간이 아닌 최고의 인류를 대표 할 수 있도록 계속 노력할 것임을 분명히 밝혔으며, 소셜 네트워크에서 두 가지 모두 화를내는 그런 종류의 의견을 반드시 억제했습니다.

아마도이 문제에 대한 가장 흥미로운 점은 그것이 나쁜 프로그래밍이 아니며 AI가 단순히 대화에서 배웠고 통합하여 완전히 무료 인공 지능이 인간에게 얼마나 위험한지, 어떤 방식 으로든 악을 나타낼 수 있다는 것을 보여줍니다.