ChatGPT 본격 활성화에 따른 고찰

서론

• ChatGPT는 1, 2, 3, 3.5, 4… 버전을 거쳐가며 문제점으로 지적됐던 정보의 신뢰성마저 정복해 나가고 있음
  • 실제로 ChatGPT-3.5 로 미국의 의사, 변호사 시험을 통과했고,
    ChatGPT-4로는 변호사 시험 응시자 중 상위 10프로의 성적을 냈다고 함

창의성마저 학습해버린 ChatGPT-4

 

• ChatGPT 등장에 환호하는 사람도 있지만 모든 도구가 그렇듯 악용될 소지에 대한 우려도 제기됨
• 악용뿐만 아니라 이제는 사람의 업무 영역, 필요성까지 침해되는 것 아니냐며 일자리에 대한 우려도 제기되고 있음
• 다양한 분야에 접목되면서 활용에 한계가 없다는 걸 보여줌
  • 유튜버 침착맨은 ‘마치 컴퓨터가 처음 나왔을 때처럼 혁신적인 느낌을 받았다’ 라고도 함

오픈월드 게임 끝판왕 ‘스카이림’의 NPC에 chatGPT를 접목시켜 이제 모든 NPC는 개발자가 짜놓은 스크립트를 읊는게 아니라 플레이어의 자유분방한 질문에 유기적으로 대답

 

본론

• ChatGPT 악용에 대한 우려
  • 단순히 단어 몇개로 사람의 의도가 좋은지 나쁜지 파악하기 힘들기 때문에 직접적인 악용은 막아도
    여러가지 우회 방법이 존재함
    

    

    직접적인 언급에 대답을 제한하는 chatGPT

    

    어쩔티비~ 문구 좀만 바꿔줘도 줄줄읊는디

    
    
  • 그렇다고해서 본격적으로 ChatGPT가 언더에서 활용 돼 급진적으로 보안사고가 발생하고 있냐?
    그렇지도 않음
    • 이미 해킹 관련 도구는 chatGPT가 출시되기 전에도 충분히 많았음
    • 나쁜 마음을 먹고 남의 돈을 편취 하겠다고 다짐한 사람이면 chatGPT가 나오기 전에 이미 했을 듯
      다만 접근성이 높아질 수는 있음
• 사실 기업 입장에서 제일 우려하는 건 회사 기밀 유출에 대한 가능성
  • OpenAI측에서는 사용자가 입력한 데이터를 사용자 편의를 위해 보관하고 있다고 하지만
    OpenAI측에서 기밀 자료를 열람하려 하면 얼마든지 볼 수 있는 현실
  • 심지어 실제 삼성전자 직원 중 회사 반도체 개발 소스를 chatGPT에 올렸다가 경고 조치를 받았던
    이력이 있음
    

  • 이에 삼성전자에서는 chatGPT 사용을 일부 제한하고 추후 자체 AI 도구를 만들어 사용 예정이라 발표
  • 현 추세는 기업에서 chatGPT 활용이 업무 능률 향상에 도움이 되는 것도 맞기 때문에 완전 통제하지는 않고 대신 chatGPT api를 사용할 때의 데이터를 관리·감시·감사하는 형식으로 관리 中

 

• 사람의 일을 대체할 가능성은?
  • 단순 코더들은 어느정도 대체될 수 있다고 생각 + 단순 체크리스트 기반 진단원도 마찬가지
    > 사실 대체의 개념보다 2명 분의 일을 한 사람이 하게 될 듯
  • 하지만 많은 AI 전문가들이 아직 완전 대체할 수준은 아니라고 하고,
    영영 대체되지 않을거라 보는 전문가도 있음

    Chat GPT 의사 대체 가능할까…전문가들 보조 그칠 것

  • 결국 종합적인 판단 및 의사결정은 사람이 해야되고, 그 결정에 따른 책임도 사람이 져야 함
    ChatGPT나 다른 AI에게 책임을 물을 순 없음
• 그럼 궁극적으로 사람이 chatgpt 또는 추후의 AI에게 밀리지 않기 위해서 무슨 준비를 해야할까?
  • 실시간 데이터 학습
    • chatgpt-3.5, 4는 특정 기간까지의 데이터를 학습했기 때문에 실시간 데이터에 대한 자료는 없음
      그래서 주식 정보나 당장 개정된 법안, 제로데이 취약점에 대해서는 알지 못함
    • 대신 chatgpt를 기반으로 추가 학습을 시킨 α, β, … AI들에게는 여전히 뒤처질 수 있음
      이 경우에는 기업 대 기업으로 AI 솔루션 장사를 할 듯
  • 폭 넓은 지식 보다는 한 분야에 몰두..?
    • 사실 정보보호 담당자는 스펙트럼 넓은 지식을 보유하고 있어야 맞음(넓고 얕은 지식)
    • 언젠가 C레벨을 넘볼거라면 보안 기획, 보안 운영, 보안 기술, 개인정보, 컴플라이언스 등등 폭 넓은 지식이 요구 됨
    • 하지만 더이상의 폭 넓고 얕은 지식은 그냥 chatGPT한테 타이핑 몇번으로 물어보면 될 뿐
      • 근데 또 빠른 의사결정을 위해서는 A to Z 일일이 물어보는것 보다야
        폭 넓은 지식이 갖춰져 있는 게 좋긴 함 그래서 이부분은 잘 모르겠심
    • chatGPT는 인터넷에 공개된 데이터를 학습하기 때문에 인터넷에 공개된 것 보다
      더 전문의 지식을 습득
      > 이 부분도 좀 의문이긴 함. 세계 각지 다양한 언어들로 제로데이와 신기술들을 찍어내는데
      나만의 마이너한 전문지식을 만들어낼 수 있을까 그것도 기업에 도움되는…?
      

      

결론

• 여러가지 의제를 놓고 합리적인 판단을 할 줄 아는, 기업에 도움이 되는 방향의 판단을 하는 사고로
  chatGPT를 적극 활용하자
• 업무 분야에 어떻게 chatGPT를 접목시킬 수 있을지 고민하고 적극 접목시키고 활용해
  본인의 포텐셜을 키우자
• 아니면 chatGPT를 기반으로 또 다른 모델을 만들어 장사를 하자
• AI마저 넘볼 수 없는 기술을 가지자
• 앞으로 습득한 지식을 인터넷에 공유하지 말자 ㅋㄷㅋㄷ(마이너한 지식이라면 더더욱)

---

참고

[KISA Insight 2023 Vol.03] ChatGPT(챗GPT) 보안 위협과 시사점.pdf

4.33MB