AI 활용 비판 — 실력과 착시 · 경험과 지식의 퇴화 · 저전문성의 보편화

AI로 인해 기존 체득한 경험, 기술 지식도 빠르게 퇴화하고 있다고 우려가 많은데, AI를 사용하면서 지식이 늘거라는 것은 제법 낙관적인 견해입니다. 의도적으로 학습하려는 마인드를 장착하고 AI 답변을 검토하며 진행하지 않는 이상 쉽지 않죠.

AI 활용에서 제법 통용되는 말이 '아는 만큼 나온다'는 것인데, 이게 그대로 결과물에도 반영될 공산이 큽니다. 비주얼적으로는 그럴 듯해 보여도 말이에요.

시각적인 정보에 치중하여 비시각적인 버그와 모순을 잡는 능력이 떨어지고, AI가 대답하는 전문적인 답변을 해석할 능력이 떨어져 이에 대한 판단을 수행할 수 없으면 우리는 AI의 사용자를 전문가라고 하기 어렵습니다.

이것은 개발자 뿐 아니라, 의사, 변호사, 세무, 부동산 등등 모든 영역에 해당되는 내용입니다. 아무리 AI가 병을 잘 설명해도 그것을 해석할 수 없고, 그것의 예외적인 상황을 추론하거나 치료를 수행할 수 없다면 그는 의사가 아닙니다. 환자로서 진단과 치료 방향에 조언을 구할 수는 있지만요. 동일한 거에요.

참고로 요즘 의사들이 가장 골머리 앓는 것 중의 하나가 AI한테 듣고와서 'AI한테 물어보니까 뭐뭐라고 하던데요' 라는 환자의 말이랍디다.

바이브코딩이 보안이니 뭐니 문제를 해결해 주는 것은 맞는데, 이러한 문제에 대해 애초에 '문제 제기'할 능력이 프롬프터에게 없다는 점을 꼬집는 겁니다.

설령 문제 제기하여 AI가 어떤 해결책을 내놓았을 때 그것이 현재 상황에 적합한지 판단을 해야하는데 이를 결정할 능력이 없고, 그럼 그 판단까지 AI에게 맡기려면 현재 상황을 설명해야 하는데 설명할 능력도 없다? 그럼 이제 일이 꼬입니다.

당장 그럴 듯한 UI만 보고 오 됐네 하지만 어떤 부정적인 가능성이 있는 지를 모르는 제품들이 이제 쏟아지는 거죠.

개발한 앱, 서비스에 대해 괄목할 만한 수익이나 다운로드, 방문자 숫자를 자랑하는 경우가 있는데요.

그것이 광고를 집행하거나 상용 API를 사용한 서비스일 수 있다는 점을 염두에 두십시오. 언급하고 있지 않은 비용이 있을 수 있음을 감안해야 합니다.

예를 들어 코덱스나 클로드 API를 래핑해서 서비스를 마련해 놓고는 무료에 가깝게 제공한다면? 비교적 쉽게 사용자를 모을 수 있습니다.

무리가지 않게 출혈의 속도를 제어하면서 수혈받는 것이 앱과 서비스의 생명을 연장하는 기술이 됩니다. 그 규모가 보다 커진 것이 경영입니다.