요즘 인공지능은 어디든 있는 것 같아요. 인테리어 디자인 에게 홈스테이징 . 그러나 현재 가장 잘 알려진 AI 사용 중 하나이자 아마도 가장 논란이 많은 것 중 하나는 ChatGPT입니다.
만약 당신이 한 번도 본 적이 없다면 ChatGPT를 가지고 놀았습니다 이전에 작동 방식에 대한 간략한 스냅샷은 다음과 같습니다. 인간 사용자가 '저녁 식사를 위해 만들 새로운 레시피를 작성해 주세요' 또는 '어떻게 해야 하나요?'와 같은 쿼리를 입력합니다. 내 객실을 장식해 ,”그리고 몇 초 내에 ChatGPT가 응답을 내보냅니다.
그러나 일부 사람들과 기업에서는 식사 준비 이상의 용도로 ChatGPT를 사용하고 있습니다. 그들은 모든 것을 작성하기 위해 챗봇에 크게 의존하고 있습니다. 대학 입학 에세이 에게 제품 리뷰 — 때로는 논란의 여지가 있는 결과로 이어지더라도 말이죠.
독자로서 인간 작가가 썼다고 생각했지만 실제로는 봇이 제작한 내용을 무의식적으로 읽은 적이 있는지 의문이 생길 수 있습니다. ChatGPT가 작성한 내용인지 확인하는 방법이 궁금하십니까? 나는 우리가 살고 있는 이 어둡고 새로운 AI 기반 세계를 탐색하기 위한 팁과 조언을 얻기 위해 몇 명의 전문가와 대화를 나눴습니다. 그들이 말한 내용은 다음과 같습니다.
1234의 영적 의미
ChatGPT는 ChatGPT가 작성한 내용을 어떻게 알 수 있나요?
하지만 먼저 ChatGPT에 바로 이 질문을 하면 뭐라고 대답할지 궁금했습니다. 그냥 재미로 계정을 만들고 메시지 표시줄에 'ChatGPT가 작성한 내용인지 확인하는 방법'을 입력하고 Enter 키를 눌렀습니다.
ChatGPT는 물론 바로 답변을 해주었습니다.
'모델이 인간과 유사한 텍스트를 생성하는 것을 목표로 하기 때문에 ChatGPT가 작성한 내용을 식별하는 것이 어려울 수 있습니다.'라고 응답했습니다. '그러나 텍스트가 언어 모델에 의해 생성되었음을 나타낼 수 있는 몇 가지 일반적인 특징이 있습니다.'
그런 다음 동일한 문구나 아이디어를 여러 번 반복하거나 일반적으로 보이고 특정 세부 사항이 누락된 것처럼 텍스트가 봇에 의해 작성되었음을 나타낼 수 있는 특성 목록을 제공했습니다. ChatGPT는 또한 자신의 글에 개인적인 일화나 감정이 부족할 수 있다고 말합니다.
ChatGPT에 따르면 또 다른 말은요? 정보가 오래된 것 같다면 ChatGPT가 2022년 1월까지의 데이터에 대해서만 훈련되었기 때문입니다.
답변이 끝나자 ChatGPT는 '텍스트에 대해 특정한 우려 사항이나 의문 사항이 있는 경우 언제든지 문의해 주세요. 최선을 다해 도와드리겠습니다.'라는 글을 써서 저를 안심시키려고 했습니다.
ChatGPT가 작성한 내용인지 확인하는 방법
좋아요, 그것은 재미있는 실험이었습니다. 그러나 이제 실제 인간 전문가들이 말해야 하는 것은 무엇입니까?
가장 먼저 고려해야 할 점은 ChatGPT 텍스트가 사람이 입력한 프롬프트에 의해 생성된다는 것입니다. 따라서 인간 사용자는 원하는 특정 음성, 스타일, 길이 및 텍스트 유형을 생성하기 위해 프롬프트를 계속해서 조정할 수 있습니다. 이로 인해 ChatGPT가 작성한 내용인지 확인하기가 놀라울 정도로 어려울 수 있습니다.
'내 연구 결과, 잘 훈련된 인간이라도 생성된 텍스트를 안정적으로 감지하는 데 어려움을 겪는다는 사실을 발견했습니다.'라고 말합니다. 리암 듀건 펜실베니아대학교에서 박사과정을 밟으며 챗봇과 관련된 다양한 질문을 연구하고 있는 사람입니다. (그와 그의 동료들은 '라는 이름의 온라인 게임을 만들었습니다. 실제 또는 가짜 텍스트 ,' 사람들이 자신의 AI 생성 텍스트 감지 기술을 테스트할 수 있는 곳입니다. 직접 사용해 보세요.)
Dugan에 따르면 텍스트가 챗봇에 의해 작성되었음을 나타내는 특정 단어나 문구는 없습니다. 따라서 안타깝게도 특정 표현에 대해서는 'Control+F'만 사용할 수는 없습니다.
다른 전문가들도 이 의견에 동조했다.
Firefox 인터넷 브라우저를 개발한 Mozilla의 콘텐츠 제작자인 Xavier Harding은 '안타깝게도 일반적으로 ChatGPT나 AI가 작성한 텍스트를 감지하는 쉬운 방법은 없는 것 같습니다.'라고 말합니다. '우리는 ChatGPT 제조사인 OpenAI가 AI로 작성된 텍스트를 감지하는 방법을 제공하려고 노력하는 것을 보았으며 AI로 생성된 텍스트를 감지하는 정확한 방법이 없다고 말하면서 이를 기억해야 했습니다.'
복사하여 붙여넣기 오류를 찾아보세요.
하지만 말하기 어렵다고 해서 모든 희망이 사라진 것은 아닙니다. ChatGPT를 실행하는 것은 인간이기 때문에 챗봇이 무언가를 썼다는 매우 명백한 단서를 볼 수 있습니다.
12:12의 의미
Dugan은 “사람들이 실수로 챗봇에서 “물론입니다. 탐지에 관한 뉴스 기사가 있습니다.”와 같은 부가 댓글을 포함시키는 것을 보았습니다.
'환각'을 알아차리는 방법을 알아보세요.
이러한 유형의 실수를 제외하고 전문가들은 사실의 정확성을 위해 텍스트를 주의 깊게 연구할 것을 권장합니다. Dugan은 정보가 틈새 시장일수록 챗봇이 단순히 사실을 꾸며내거나 뭔가 잘못된 정보를 얻을 가능성이 더 높다고 말합니다.
AI 분야에 종사하는 사람들은 이러한 실수를 '환각'이라고 부른다.
Harding은 “가끔 AI가 사실이 아닌 사실을 솔직하게 말할 때도 있습니다.”라고 말합니다. '사람이 아닌 AI가 작성한 텍스트를 읽고 있다는 것을 쉽게 알 수 있지만, 익숙하지 않은 주제에 관한 내용이라면 환각인지 알기 어려울 수 있습니다.'
읽고 있는 주제에 대해 잘 알지 못한다면 빠른 온라인 검색을 통해 눈앞에 있는 정보를 확인하라고 Harding은 덧붙입니다.
너무 일반적이라고 느껴지는 글은 주의하세요.
챗봇이 무언가를 작성했다는 또 다른 징후는 과도한 일반성입니다(ChatGPT 자체에서도 언급함). 예를 들어 출연진의 이름을 전혀 언급하지 않는 영화 리뷰와 같이 텍스트가 지나치게 광범위해 보인다면 의심해 볼 수 있습니다.
12 + 12 + 12 + 12 + 12
'실수를 피하기 위해 챗봇은 종종 일반적인 텍스트를 작성합니다.'라고 Dugan은 말합니다. “그들은 매우 안전하고 예측 가능한 응답을 제공하며 정보를 구성할 필요가 없도록 노력할 것입니다. 그러나 이것은 종종 인간 독자에게 이상하게 보일 수 있습니다. 독자들은 구체적인 정보 제공을 회피하는 것처럼 보이는 내용에 주의를 기울여야 합니다.”
처음 몇 문장보다 더 많이 읽어보세요.
또 다른 팁: 첫 문장이나 두 문장만 읽는 대신 가능한 한 많은 내용을 읽으세요. 게리 마커스 뉴욕대학교 심리학 및 신경과학 명예교수인 는 텍스트가 길면 챗봇이 작성한 내용인지 여부를 확인하는 것이 더 쉬울 수 있다고 말합니다.
'가능한 한 인간처럼 들리도록 놀라울 정도로 많은 양의 텍스트에 대해 훈련을 받았기 때문에 단일 문장에서 구별하는 것은 매우 어렵습니다.'라고 그는 말합니다. '이러한 시스템은 긴 대화에서는 종종 궤도를 벗어나지만 짧은 단편에서는 반드시 그런 것은 아닙니다.'
그리고 챗봇 감지기는 어떻습니까?
온라인으로 돌아다니면 AI가 생성한 텍스트를 감지할 수 있다고 주장하는 도구를 접하게 될 것입니다. Dugan은 현재 이러한 탐지기의 효율성을 테스트하기 위해 대규모 연구를 수행하고 있지만 지금까지 초기 증거는 유망하지 않습니다.
'우리의 모든 결과는 탐지기가 신뢰할 수 없으며 위험이 큰 시나리오에서는 탐지기를 사용해서는 안 된다는 것을 시사합니다.'라고 그는 말합니다. “많은 회사들이 생성된 텍스트를 99% 이상의 정확도로 감지할 수 있다고 주장하지만 이러한 주장은 거짓입니다. 탐지기는 사람이 작성한 텍스트를 챗봇이 생성한 것으로 자주 표시하므로 쉽게 속습니다.”
