AI 발전 역사와 LLM에 대한 우려 제기

iPod 창시자이자 Nest Labs의 설립자인 토니 파델이 테크크런치 디스럽트 2024에서 열린 인터뷰에서 OpenAI의 CEO 샘 알트먼을 비판했습니다. 그는 현재의 대형 언어 모델(LLM) 열풍 이전의 AI 개발 역사와 LLM의 환각 문제에 대한 심각성을 강조하며, "나는 샘 알트먼이 아닙니다"라는 말로 주목을 받았습니다. 이 발언은 청중을 놀라게 했으며, 그 중 일부는 박수를 보냈습니다.

고유 AI 에이전트의 투명성과 필요성 강조

파델은 LLM이 특정한 용도로 훌륭할 수 있지만 여전히 해결해야 할 심각한 문제가 남아있다고 설명했습니다. 그는 과학 소설을 현실화하려는 시도로 LLM이 '만능 해결사'가 되려 한다며 비판했습니다. 대신 AI 에이전트가 특정한 분야에 특화되어 오류와 환각 현상을 명확히 해주는 방식이 더 바람직하다고 주장했습니다.

AI의 투명성과 규제 필요성 제기

그는 사람들이 AI 에이전트와 협업하거나 그 역할을 대체할 때 AI의 특성과 문제점을 명확히 알고 있어야 한다고 강조했습니다. 이를 위해 정부가 나서서 투명성을 강제해야 한다고 말했습니다. 그렇지 않으면 AI 기술을 사용하는 기업들이 잘못된 기술로 인해 평판을 해칠 수 있다는 점을 지적했습니다.

의료 분야에서의 AI 사용 경고

파델은 ChatGPT를 사용하여 환자 보고서를 작성하는 과정에서 90%의 환각이 발생했다는 보고서를 인용하며, 이는 사람의 생명을 위협할 수 있다고 경고했습니다. 그는 AI 사용 시 발생할 수 있는 문제를 명확히 알지 못한 채 착수하는 것은 위험하다고 강조했습니다. 파델은 이러한 경고와 함께 AI 기술의 사용 역사와 현재의 문제점을 청중에게 알렸습니다.

출처 : Tony Fadell takes a shot at Sam Altman in TechCrunch Disrupt interview