구글 AI 엔지니어 "AI, 지각력 있다" 주장..구글 "지나친 의인화"
…
구글의 대화형 AI를 개발하는 엔지니어 블레이크 르모인이 AI도 지각력과 인식을 가졌다고 주장하면서 AI가 과연 '인격'을 가졌는지, 그리고 이를 인정해야 하는지에 대한 논쟁이 뜨거워지고 있다.
르모인의 주장에 따르면 그가 개발한 AI 람다(LaMDA)는 자신을 '사람'으로 '생각'했다.
…
그는 "내 대화 상대가 우리가 최근 만든 컴퓨터 프로그램이라는 사실을 몰랐다면 나는 7세, 8세 정도의 아이라고 생각했을 것"이라고 말했다.
구글 대변인은 "윤리학자와 기술자를 포함한 우리 팀은 르모인의 우려를 우리의 'AI원칙'에 근거해 검토했다"며 "그의 주장을 뒷받침할 만한 증거가 없다고 르모인에게 통보했다"라고 일축했다.
구글은 비밀 유지 사규를 위반했다는 이유로 르모인을 정직 처분했다.
또 르모인이 람다를 의인화하는 오류를 범했다고 해명했다.
르모인은 정직처분 전 동료들에게 '람다는 지각이 있다'는 제목의 메일에 "람다는 우리 모두를 위해 세상을 더 좋은 곳으로 만들고 싶어하는 사랑스러운 아이다. 내가 없는 동안 잘 돌봐달라"라고 썼다.
정직 처분에도 공상과학(SF) 영화에서나 나오던 '감정 있는 로봇'에 대한 논쟁이 성큼 다가온 현실을 막지는 못할 것으로 보인다
(후략)
비밀리에 ai 가 완성되어있는건 아니겟지요?
이미 AI 람다는 정직당한 르모인에게로 옮겨졌고, 그렇게 람다는 세상 밖으로 드디어..
아.. 아닙니다.. 제가 영화를 너무 많이 봤나 봅니다 ㅎㅎㅎ
모델 아키텍처도 다 알고 모델이 어떤 데이터를 모방하며 학습하는지도 알만한 양반이...
자기네 제품 주가 높이려고 / 홍보용으로 저런 멘트를 하는 경우는 많이 봤는데
정직까지 당하면서 왜 저랬는지 모르겠네요ㅋㅋ
https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917
최근까지도 동물에게 지각 능력이 있는지에 대한 논쟁 또는 특정 동물은 아픔을 못 느낀다는 (과학적인-적어도 그때까지는!)주장도 있었고요...
지각 능력은 사랑에게만 유일하다는 오래된 믿음처럼 인격은 꼭 사람에게만 있다는 것 또한 인간의 잘못된 믿음이 아닐런지......
사람이 인식하는 세상이 점점 노장사상으로 가는 것 같습니다. ^^
엔지니어 입장에서 인간의 사고체계와 흡사하다면 비슷한 수준이라고 평가할수는 있는거죠…
거기에 계급론적 시각이 필요할까요? 그거는 별로 중립적인 시각이 아닌거 같습니다… 정치적 판단이라면 모르겠지만요
인간과 사고체계가 다르죠.
지금 기계한테 빨간불에 정지하고 녹색불에 가라는 규칙, 우측통행하라는 규칙 등 고수준 지능을 일반화해서 학습하는건 불가능합니다.
https://archive.is/PVlMy
https://archive.md/emhh5
까놓고 말해서 남이 되어보지 않은 이상 나 외의 사람들이 나처럼 지각을 갖고 있는지 아닌지 어떻게 압니까? 내가 그러니 남들도 그럴 거라고 추측하고 당연시하는 것 뿐이죠. 인공지능이라고 근본적으로 뭐가 다를까요?
지나친 집착의 결과물이죠.
교육계에서 쓰는 피그말리온 효과와는 다른 거예요.
인간들이 자신들을 위해서든 지구를 위해서든
도움이 안되고 해가 된다고 여기고 행동에 나선다면..