제프리 힌턴 교수의 경고

안녕하세요~ 오늘은 AI관련
주목을끄는 뉴스가있어
정보를 공유해봅니다.
 
앞으로 현 AI 발전 속도로보면
10년안에 사람을 죽이는
AI 로봇이 나올것이라는
내용이었는데요.
 
뭔가 설득력도 있고 경각심도
일어 기록에 남겨봅니다.
 

제프리 힌턴

제프리 힌턴 교수의 경고
10년 내 사람 죽이는 AI 로봇 나올 것

 

▶제프리힌턴의 경고

AI(인공지능)의 대부 제프리 힌턴
캐나다 토론토대 명예교수가
"향후 10년 이내에 자율적으로
인간을 죽이는 로봇 무기가
등장할 것으로 보고 있다"며
 AI의 위험성에 대해 경고했다.

대표적 AI 비관론자(Doomer)인
힌턴 교수는 "AI가 인류 파멸을
가져올 수 있다"며 지속적으로
신중한 AI 개발을 주장해 왔다.

AI 4대 천왕' 중 한명인 힌턴 교수는
요수아 벤지오 캐나다 몬트리올대
교수와 함께 대표적
AI 비관론자이다.

힌턴 교수는 지난해 4월
 AI의 위험성을 알리기 위해 
10년 넘게 몸담았던 구글을
퇴사했다.

이후 캐나다 토론토로 돌아가
적극적으로 AI 개발 신중론을
펼치고 있다.

▶교수의 경고이유


AI는 자신이 부여받은 하나의 목표를
달성하기 위해 인간에게 좋지 않은
방법을 해결책으로 내놓을 수 있기때문

(예를 들어 기후 위기를 멈추도록
지시했을 때, AI가 목표를 달성하기 위해
인간을 배제해야 한다고 판단하고
이를 실행에 옮길 위험도 있다는 주장)
 

▶경고를 무시하면 안되는이유

힌턴 교수는 지속적으로 
AI 전투 로봇의
위험성을 강조해 왔지만, 
'10년 내'라는 구체적인
 AI 킬러 로봇 등장 시점을
언급한 것은 처음이다.

힌턴 교수는 "많은 사람이 
AI의 폭주를
막으려면 전원을 끄면 되지 않냐고
말하지만, 인간의 인지를 넘어선
 AI는 우리를 조종할 수 있을 것"이라며
"AI가 전원을 끄면 안된다고
적극적으로 설득할 것이다"고 말했다.

그는 이어 "AI끼리 데이터센터 등
자원 쟁탈전을 벌이고 경쟁을 통해
진화하는 과정을 거친다"며
"더 똑똑해진 AI에 인류는 뒤처진다"고
강조했다.

▶규제를 가속화해야하는이유

힌턴 교수는 발 빠르게 로봇 무기를
규제해야 한다고 주장했다.

1)러시아-우크라이나 전쟁에서
자율 가동기능이 탑재된
살상용 드론이 사용되자, 
UN은 자율살상무기(LAWs)에
대한 기술에 대한 규제 논의를
진행 중이다.

 2)제1차 세계대전에서의 참화로
화학무기가 전 세계적으로 금지됐듯
AI 로봇무기도 조만간 규제할 수
있을 것이다"면서도 "하지만
(규제 시점이) 인류가 (AI 킬러로봇의)
비참함을 인식한 후가 될지 모른다"고
규제에 속도를 내야 한다고 강조했다. 

 

❤️ 글을 마치며

제프리 힌턴교수의 우려는
공감가는 부분이 많기도하지만
AI 창조자인 인간의 교만함은
우위에 있기에  불가능한 일이라
치부되고 혹자는 코웃음을
칠지도 모르겠지요?

인간을 공격하는 AI 로봇!!
영화에서 본일이 멀지않은
미래에 현실이 되어왔던
인간의 역사와 문명의발전 속도를
돌이켜보면 결코 무시할수없는
우려라고 생각 되어지기도
합니다.

AI 인공지능 로봇이 인간이
원하는 꽃만을 줄것이냐,
우리에게 총구를 겨눌것이냐는
미래의 일이기에 예측할수는
없겠지만  적어도 우리 인류의
안전을위해 더 뛰어난 프로그램을
통해  "예비할수 있지않을까?"
라는 생각에 잠겨봅니다.

읽어주셔서 감사합니다.