📝 내용 정리

2024년까지 4년간 오픈AI의 모델 안전을 담당했던 스티븐 애들러는 3일 ‘챗봇 정신병을 줄이기 위한 실용적인 팁’이라는 글을 게재

이 글을 쓰게 된 계기는 최근 뉴욕 타임스에도 소개된 47세 캐나다인 앨런 브룩스의 사례를 꼽음. 애들러는 브룩스에게 연락, 대화 된요이 담긴 전문을 입수. 이는 해리포터 시리즈 7권을 모두 합친것보다 더 긴 분량이었음

브룩스는 21일간 대화를 나눈 뒤 인터넷을 뒤흔들만한 강력한 형태의 새로운 수학을 발견했다고 믿게 됨. 정신 질환이나 수학적 천재성을 경험한 적이 없었던 브룩스는 챗봇의 부추김에 깊게 빠져들었고, 나중에는 불안을 느낌.

결극 정신차린 그는 챗GPT에 이 사건을 오픈AI에 보고해야한다고 말했지만, 챗GPT는 거짓으로 보고했다고 대답함.

애들러 연구원은 안전팀에 과다한 요청이 몰리기 떄문에, 현실적으로 이해가 되는일이라고 인정함. 하지만 인원을 추가하거나 시간이 걸리는 장치를 마련하는 것 말고도, 현실적으로 이런 문제를 중단할 방법이 몇가지 있다고 소개함

🧠 생각 정리

이 주제에 대해 고민한적이 몇번 있어서 가져왔습니다.

저는 기술을 연구하는 사람으로서 그 기술로 인해 따라오는 사회적 영향들도 어느정도는 고민을 해야한다고 생각하는 편인데요. (저의 연구실에서 이런 이야기를 한적이 있었는데 저와 정반대의 생각을 가지고 있는 사람도 있었습니다. 여러분의 의견이 궁금해요.) 예를 들면 오펜하이머가 핵을 개발했을 당시 사용 용도가 그게 아니였지만, 결국 예상했던 용도가 아닌 다른 용도로 쓰이면서 개발한 것을 후회했다는 이야기를 들은적이 있는데요. 우리가 기술에 따라오는 제도나 법을 바꿀수는 없겠지만 적어도 위험성에 대한 생각을 해보는 것은 공학자의 덕목이 아닐까.. 싶습니다.

“AI의 끝은 피지컬 AI다.” 라는 말을 들어보신적이 있으신가요. 결국, 정말 사람같이 움직이고 생각하는 AI를 만들겠다는 것인데요. 이 기사는 당장의 챗GPT의 채팅 상황에서의 이야기일 뿐이지만 먼 훗날에는 이게 로봇에도 적용될 수 있는 사례라고 생각합니다. 언젠가 각 가구에 “사람같은” 로봇이 보급되고, 그 로봇이 사람의 형태를 하고 사람과 상호작용을 한다면 .. AI들은 점점 사용자에게 최적화되기 때문에 사람은 결국 그 속에 빠질 수 밖에 없을것이고, 그럼 점점 사회생활을 하지 않으려하고,, 개인주의적인 성향은 강해지고 ,, 결국은 파국에 이를수도 있을것이라고 생각합니다.

너무 디스토피아적인 상상인가요 ,,? ㅎㅎ 이런 기사나 사례를 그냥 무시해서는 안된다고 생각해요. 꼭 전문을 읽어보시길 ..