인공지능이 생성한 가짜 정보 확산…AI 식별 서비스 성공률은 26%?

>AI 가짜 정보 확산

(Dev + IT + )

한빛출판네트워크 5월 둘째 주 Dev

# 이슈 픽 #Best AI發 가짜 정보 확산…”나 빼고 모두 AI?”
# 추천 픽 #꾸욱꾹이 인공지능 프로젝트의 자동화…머신러닝 파이프라인이 뭔데?
# 맛IT는 녀석들 #줍줍 [정보] 마틴 파울러가 알려주는 ChatGPT와 페어 프로그래밍 하는 법
# 데브털이사전 [영상] 챗GPT가 뭐길래? 다스뵈이다 속 박태웅 특강 모아보기
# 데브잇냥 독자탐구생활 “선대 프로그래머가 겪은 삽질을 반복할 필요가 있을까?” <리팩터링(2판)>
# 데브잇냥 지식in (체험기) 구글 ‘바드’ vs. MS ‘빙’…누가 검색 더 잘할까?

이슈 픽 #Best‍

👍 AI發 가짜 정보 확산…”나 빼고 모두 AI?”

챗GPT를 비롯해 여러 생성 AI 서비스가 속속 선보이고, 그걸 활용하는 사람들도 점차 늘고 있어. 그래서 AI 오용 사례에 따른 문제도 조금씩 대두되는 것 같아. 여러 기업이나 기관에서는 챗GPT에 기밀이나 민감한 정보를 입력하지 말라는 방침이 세워지고, 어떤 곳에서는 아예 사용을 금지하고 있다지? 아무래도 인공지능이 여러 데이터를 학습해서 답변이나 결과물을 내놓는 만큼, 내가 입력한 정보가 인공지능 데이터 학습에 이용되고, 그것을 기반으로 다른 이들에게 노출되지 말란 법이 없으니…

최근에는 AI로 생성된 가짜 정보가 여러 경로로 생겨나고 있다는 소식이야. 짧은 기간 동안 책을 마구 찍어내거나, 소셜미디어, 쇼핑몰 등에 거짓 리뷰를 작성하는 등 사례가 다양하게 늘고 있다고 해. 아직은 대부분 해외사례인데, 국내에서도 조만간 그런 문제 인식이 확산되지 않을까 싶어. 온라인 공간에서 만나는 다른 사람을 봇으로 의심하기도 하고(🙀), 콘텐츠 자체에 대한 의심도 가중될 수밖에. 오픈 AI가 지난 1월에 AI가 쓴 글을 식별하는 서비스를 공개했지만, 식별 성공률은 26%에 불과하다고(😹). 현명한 콘텐츠 소비가 필요한 시점?!!

추천 픽 #꾸욱꾹이

🐾 인공지능 프로젝트의 자동화…머신러닝 파이프라인이 뭔데?

인공지능이 거짓된 정보를 사실처럼 이야기하는 ‘할루시네이션(환각)’ 문제를 비롯해서, AI로 생성된 가짜 정보의 확산까지. 아직도 AI 활용에는 가야 할 길이 많은 거 같지? AI도 사람의 손으로 연구 개발되고, 또 그것을 활용하는 것도 사람이니까 어쩔 수 없는 것 같아. 어떻게 적절하게 문제 상황을 통제하고 적절한 상황에 활용하는지가 중요할 듯!

근데 말야. 특히 요즘 들어 여러 AI 서비스들이 하루가 멀다 하고 등장하고 있는데, AI를 만드는 데도 자동화 프로세스가 있다는 거 알아? 그것을 머신러닝 파이프라인이라고 하는데, 무엇보다 프로젝트의 수가 증가할수록 머신러닝 파이프라인이 더욱 중요해진대. 머신러닝 파이프라인의 주요 이점은 모델 생애 주기 단계를 자동화할 수 있다는 점이라는데. 그와 관련해 국내외 전문가들이 정리한 글이 있어서 가져왔어!

맛IT는 녀석들 #줍줍

재미난 소식과 알짜 정보들을 물어왔다냥 🐠🐭

[정보] 마틴 파울러가 알려주는 ChatGPT와 페어 프로그래밍 하는 법
<리팩터링>의 저자 마틴 파울러? 맞아 그 마틴 파울러야. 그가 챗GPT를 활용해 페어 프로그래밍하는 방법에 대해 정리한 글이 있어서 얼른 가져왔어! 다른 개발자와 대화하며 사용법을 정리하고 자신의 의견을 추가한 글인데, 활용법을 살짝 요약하자면 ①답변에 꼬리 물기 전략 활용 ②코드를 직접 달라고 하기보다 어떻게 구현할 수 있을 것인지 물어봄 ③이 과정을 통해 계획이 세워지면, 구현을 구체화하고 코드 작성. 더 자세한 내용은 링크에서 확인!
[뉴스] “챗GPT, 내 채팅 학습하지마”…오픈AI, 시크릿 모드 제공
챗GPT를 사용하면 그 채팅 기록이 오픈AI 챗GPT 모델 학습에 활용된다고? (그런 걱정을 줄이고자) 오픈AI가 챗GPT 채팅 기록을 끌 수 있는 시크릿 모드를 도입했다는 소식이야. 채팅 기록을 비활성화하면 대화가 30일 동안만 보관되는데, 영구적 삭제는 검토 이후에 가능하다고…(엥?). 해당 기능은 챗GPT 설정 옵션에서 끄고 켤 수 있대.
[정보] 오픈소스로 가자! OpenLLaMA 의 등장
챗GPT는 GPT라는 대규모 언어모델(LLM) 기반으로 만들어졌는데, 사람들이 열광하는 AI의 성능을 만들기 위해선 LLM이 매우 중요해. 메타에서는 라마(LLaMA)라는 LLM을 오픈소스로 공개했는데, 사용은 제한적인가 봐. 그런 상황에서 버클리 공대에서 오픈라마(OpenLLaMA)라는 것을 공개했어. AI 모델 학습에는 수천만 달러 비용이 드는 슈퍼컴퓨터가 필요한데, 오픈된 LLM들은 데스크톱, 심지어 구형 스마트폰에서도 작동되어 주목받고 있다구. 자, 이제 어떻게 쓸지 고민해 보자고!
[뉴스] ‘AI 대부’는 왜 갑자기 구글을 떠났을까
딥러닝의 아버지로 불리는 제프리 힌턴 박사가 구글을 퇴사하며 “악의적인 이들이 나쁜 일을 위해 AI를 쓰는 것을 막기 어렵다.”고 경고했어. 그동안 구글에 소속되어 있어서 외부적으로 AI에 대한 위험성을 언급하지 않았는데, 이제 어디에도 얽매이지 않은 상태에서 AI와 관련해 보다 적극적인 의견을 피력하고 다양한 활동을 할 것으로 전망되고 있어. 아무래도 AI의 위험성을 경고하는 활동이 더 많아지려나?
[뉴스] 두 명의 천재 앞세워 생성AI 반격나선 구글
챗GPT로 검색의 절대 강자 구글을 바라보는 우려의 시선이 커지고 있어. AI가 검색의 새로운 미래가 될 것이고, 그에 따라 구글의 영향력도 줄어들게 될 거라는 관점이지. 변화를 의식해서인지 구글은 AI 연구조직인 딥마인드와 구글 브레인을 하나로 합쳤어. 딥마인드의 ‘허사비스’가 조직을 이끌고 구글 최고 개발자 ‘제프 딘’을 개발에 집중하게 한다는 큰 그림!

데브털이사전

이번 주에는 특별히 ‘챗GPT’ 관련 특집으로 re:준비해봤어

[영상] 챗GPT가 뭐길래? 다스뵈이다 속 박태웅 특강 모아보기
데브털이사전에서 작년 12월에 이미 챗GPT를 특집으로 털어본 적이 있는데. 그때는 가볍게 챗GPT를 훑어봤다면, 이번에는 개발자 사용기부터 좀 더 깊이 있는 지식으로 털어보려고 해. 근데 아직 챗GPT에 대해서 잘 모르겠다고? 그럴 땐 다 방법이 있지. 여기 IT 현자 박태웅 의장의 챗GPT 특강을 가져왔어. 챗GPT의 개념부터 AI가 사회와 고용 시장에 미칠 영향, 다양한 산업 분야의 사용 사례 등 다방면에 걸친 정보들을 재미있는 입담으로 풀어내고 있으니 참고하라구.
[정보] 개발자가 챗GPT 사용하는 법(챗GPT와 함께 프트엔드 TDD 학습 로드맵 만들어보기)
다들 개발자로서 다양한 스터디를 진행하거나 참여할 텐데, 가끔 내가 원하는 주제는 있는데 스터디를 찾을 수 없거나 진행할 여력이 없어서 시기를 넘기다가 열정이 식고… 그런 경험 있지 않아? 그럴 때 참고하라고 챗GPT를 제대로 활용한 사례를 가져왔지. 챗GPT에서 꼭 정답만 찾으려고 하지 않아도 될 것 같아. 그 답이 진실인지 거짓인지 전전긍긍할 필요 없이, 답을 찾기 위한 과정으로 챗GPT를 활용하고 답은 직접 찾아내는 것도 하나의 방법이지 않겠어?
[정보] 새로운 생태계 등장 : ChatGPT Plugins를 정리해 봤어!
챗GPT가 다양한 작업에 유용하긴 한데, 아직 부족한 점도 많잖아? 그래서 오픈AI가 또 하나의 비장의 카드를 꺼내 들었어. 바로 챗GPT 플러그인이라는 거지. 서드파티를 활용해 다양한 서비스를 챗GPT에서 활용할 수 있게 하겠다는 건데. 이게 또 제대로 사용되기 시작하면 시장 파괴적인 행보가 될 수도 있을 거라는 의견이 팽배해. 아직까지 공개된 서드파티는 몇 개 되지 않았는데, 챗GPT 플러그인 생태계도 눈여겨볼 필요가 있겠어.
[컬럼] ‘거부하기 힘든 독사과🍎’ 생성형 AI로 코딩하기
“AI가 초보 코딩 인력을 대체할 때 효율성이 매우 높다. 하지만 초보 코딩 인력을 훈련시키지 않으면 숙련된 코딩 인력을 얻을 수 없다. 초보자는 훌륭한 숙련 프로그래머가 되기 위한 기술을 배워야만 한다.” 챗GPT, 빙챗, 구글 바드 같은 생성형 AI 모델이 엄청난 효율성을 가져다준다는 점에는 이견이 없지만, 우리는 그 다음도 생각해야 한다는 의견을 놓치지 말자.
[정보] 챗GPT를 대하는 프런트엔드 개발자의 자세
요즘 업무할 때 챗GPT를 끼고 산다는(?) 프런트엔드 개발자이자 실무자의 생산성 향상 사례입니다. 요약, 설정, 변환, 질문, 설계, 스타일링, 사용법…언어부터 시작해서 빌드 도구, 서버, API 문서, 컴포넌트 설계까지 못 해주는 게 없네? ㅇㅋ! 그럼 칼퇴하고 치맥 ㄱ! 이상 캡틴 판교가 전하는 소식이었습니다. 덧붙여서 아는 만큼 제대로 물어볼 수 있고 허언증을 제대로 구분할 수 있다는 사실은 안 비밀.
[정보] 챗GPT에 도전하는 오픈소스 AI
웹사이트에서 별도의 설치 과정 없이 바로 사용해볼 수 있게 한 ‘Open Assistant’, 사용자가 컴퓨터로 할 수 있는 태스크를 대신 수행 해주는 오픈소스 AI 챗봇 ‘Auto-GPT’, 목적을 위해 태스크 우선순위를 정하고 순차적으로 처리하는 ‘Baby AGI’ 등에 대한 간략한 설명과 상업적 용도로 사용 가능한 최신 오픈소스 거대 언어모델들을 잘 정리한 자료가 있어서 겟!
[영상] 미친 속도의 AI, 이게 얼마나 위험하냐면요…
GPT-4가 어떤 데이터를 학습했는지 우리는 알 수 없다지. 그래, 챗GPT 같은 생성AI가 유용하단 건 알겠어. 막 써보니 답도 잘 나오고, 재미도 있더라고. 근데 이제 와 생각해보니 내 정보를 학습에 활용할 수도 있다고 하고, 보안 이슈도 걱정되고, 도무지 AI가 안전한지 의심이 되네? 감이 잘 오지 않는다고? 여기 통제 불가능한 AI가 얼마나 위험한지, 어떤 결과를 초래할지 정리한 영상이 있어서 소개할게.