본문 바로가기

AI·테크63

GPT-Red가 보여준 AI 안전 점검의 새 기준 GPT-Red가 AI 안전 점검의 출발점을 바꾸는 이유2026년 7월 16일 일일 브리핑에서 MIT Technology Review는 OpenAI가 모델 취약점과 악용 가능성을 찾기 위한 LLM 기반 레드팀 시스템 GPT-Red를 구축했다고 전했습니다. AI 활용이 글쓰기, 코딩, 고객 응대, 업무 자동화로 넓어진 지금 중요한 질문은 더 강한 모델을 쓰는가가 아니라, 위험한 출력과 취약한 업무 흐름을 얼마나 빨리 발견하는가입니다.AI 레드팀은 왜 중요해졌습니까AI 레드팀은 모델이 잘못된 답을 하거나 악용될 가능성을 미리 찾아내는 점검 활동입니다. 예전에는 사람이 프롬프트를 만들고 결과를 살피는 방식이 중심이었습니다. 그러나 모델이 복잡해지고 사용처가 늘어나면서 사람이 모든 취약 조합을 직접 살피기 어려워.. 2026. 7. 16.

국방첨단인증 제도가 민간 신기술 기업에 열어 줄 조달의 문 민간 기술이 국방 분야로 들어가는 길이 더 제도화되고 있습니다국방기술품질원이 민간 첨단기술을 국방 분야에 도입하기 위한 국방첨단인증 제도 공청회를 열었다는 소식은 신기술 기업에 중요한 신호입니다. 그동안 인공지능, 로봇, 센서, 통신, 보안 기술은 빠르게 발전했지만 국방 조달과 인증 체계는 안정성, 보안성, 운용 검증을 중시하기 때문에 진입 속도가 느릴 수밖에 없었습니다.국방첨단인증 제도의 의미는 단순히 새로운 인증서가 하나 생긴다는 데 있지 않습니다. 민간 기술이 어느 수준의 성능, 신뢰성, 보안, 유지관리 기준을 충족해야 공공 조달과 실증으로 연결될 수 있는지 제도 언어로 정리하는 과정입니다. 신기술 기업 입장에서는 연구개발 성과를 군 운용 환경에 맞게 설명하고 검증하는 방식이 더 중요해집니다.왜 인.. 2026. 7. 15.

스마트건설 강의 수요가 BIM 교육을 현장 안전 언어로 바꾸는 이유 스마트건설과 BIM 교육은 소프트웨어 조작법을 넘어 화재, 피난, 폭염, 우천, 데이터 보안까지 연결하는 현장 안전 역량으로 이동하고 있습니다.오늘 일정은 교육 시장의 방향을 보여줍니다오늘 브리핑의 일정에는 스마트 건설기술 실무2 강의와 내일 현대기술교육원 BIM 강의가 포함되어 있습니다. 같은 브리핑에서는 파주 전자제품 창고 화재, 천안 아파트 화재, 방콕 술집 화재, 강릉 열대야와 강원 지역 강수 예보도 함께 확인됐습니다. 이 조합은 스마트건설 교육의 초점이 기능 설명에서 실제 위험 대응으로 이동하고 있음을 보여줍니다.BIM 교육은 모델링 프로그램을 잘 다루는 과정으로만 머물기 어렵습니다. 설계 정보, 공정, 안전 점검, 피난 동선, 소방 접근성, 자재 위치, 작업자 이동 경로를 하나의 데이터로 연결.. 2026. 7. 14.

AI 데이터센터와 전기차 판매가 미국 주식의 전력 프리미엄을 키우는 이유 미국 주식시장에서 AI와 전기차는 더 이상 소프트웨어와 자동차만의 이야기가 아니라 전력, 부지, 송전망, 보조금, 환율이 함께 움직이는 인프라 투자 테마입니다.데이터센터는 성장주를 전력 소비 기업으로 다시 보게 만듭니다브리핑에서는 Meta의 데이터센터 확장과 지역 경제·주민 혜택 논의가 확인됐습니다. 이 흐름은 미국 주식에서 AI 기업을 바라보는 관점을 바꿉니다. 과거에는 이용자 수, 광고 매출, 클라우드 점유율, 반도체 수요가 핵심이었다면 이제는 전력 확보, 냉각, 송전망, 지역 인허가, 물 사용량까지 기업가치 평가에 들어갑니다.AI 인프라 투자가 커질수록 수혜 범위도 넓어집니다. 반도체와 서버 기업뿐 아니라 전력망 장비, 냉각 솔루션, 전력회사, 산업용 부동산, 데이터센터 리츠가 함께 거론됩니다. 다.. 2026. 7. 14.

AI 사진 기능 철회와 영업비밀 소송이 말하는 기업 AI 거버넌스 Meta의 AI 사진 기능 철회와 Apple의 OpenAI 관련 소송 보도는 기업 AI 도입에서 데이터 동의와 영업비밀 관리가 핵심 통제 항목으로 올라왔음을 보여줍니다.출시 속도보다 설명 가능한 통제가 중요해졌습니다오늘 브리핑은 두 가지 AI 뉴스를 함께 보여줬습니다. 하나는 Meta가 인스타그램 공개 사진 기반 AI 이미지 기능을 반발 사흘 만에 철회했다는 보도입니다. 다른 하나는 Apple이 OpenAI와 임직원을 상대로 영업비밀 침해 소송을 제기했다는 보도입니다. 두 사건의 분야는 다르지만, 기업 AI가 맞닥뜨린 질문은 비슷합니다. “그 데이터는 누구의 동의로 쓰였는가”, “그 지식은 회사 밖으로 나가도 되는가”, “문제가 생겼을 때 삭제·중단·입증이 가능한가”입니다.AI 기능은 빠르게 만들 수 있.. 2026. 7. 13.

Meta 사진 기능 철회가 기업 AI 거버넌스에 남긴 신호 생성형 AI 서비스의 경쟁은 더 빠른 기능 출시만으로 설명되지 않고, 데이터 동의와 삭제권, 초상권, 내부 보안까지 설계에 포함하는 방향으로 이동하고 있습니다.기능 철회가 보여준 출시 리스크오늘 브리핑에서는 Meta가 인스타그램 공개 사진을 AI 이미지 기능에 활용할 수 있게 한 기능을 반발 사흘 만에 삭제했다는 보도가 정리되어 있습니다. 이 사례는 공개 게시물이라도 사용자가 어떤 목적으로 데이터가 재활용되는지 충분히 이해하지 못하면 서비스 신뢰가 급격히 흔들릴 수 있음을 보여줍니다.기업 입장에서는 AI 모델 성능보다 먼저 데이터 사용 목적, 보관 기간, 옵트아웃 방식, 민감정보 처리, 아동·초상권 보호 기준을 문서화해야 합니다. 특히 교육, 마케팅, 자동화 도구를 만들 때 이미 공개된 자료라는 이유만으.. 2026. 7. 12.

이전 1 2 3 4 5 6 ··· 11 다음

티스토리툴바