[컨퍼런스] AWS Innovate GEN AI + DATA (2025.03.) 후기

기업 비지니스 차별화를 위한 데이터 분석, 인공지능 통합 전략

생성형 AI는 정말 빠른 수준으로 성장하고 있다.

몇 년 전 개념 검증 수준에서 현재는 프로덕션으로 제공되고 더 나아가 비즈니스 가치 실현에 대해 생각하고 있다.

개념 검증 단계

• 생성형 AI가 무엇인지
• 언어 모델에 대해서
• 어떤 모델을 선택해야 하는지
• 어떻게 사용해야 하는지

프로덕션

• 자체 모델을 만들어야 할지?
• 프로덕션으로 확장이 가능한 것인지?
• 비용을 어떻게하면 절감할 수 있을지

비즈니스 가치 실현

• 기존 데이터를 어떻게 활용할 수 있을지?
• 비즈니스 전환을 어떻게 해야할지?
• 업무 효율성을 더 높이는 방법은 무엇인지?

‘왜?’의 중요성, 올바른 솔루션을 선택하자.

기술 트렌드보다 ‘왜’ 라는 질문으로 올바른 솔루션을 선택하는 것이 중요하다.

올바른 솔루션은 어떻게 선택할 수 있을까?

1. 문제를 파악하기 위한 팀 간의 협업
2. 고객 및 직원의 설문조사 → 데이터 기반 의사 결정
3. 엄격한 평가 잣대 → 구체적인 평가 수치 기준을 세워야 함.

생성형 AI를 기준으로 3가지 계층으로 개발자를 구분하면?

생성형 AI 서비스 개발을 위한 과정

규율을 통한 자율성

혁신을 안전하고 효율적으로 성장 시킬 수 있도록 보안을 고려해야 한다.

고객 신뢰를 위해 책임감 있는 AI를 도입해야 한다.

데이터 자산을 보호하기 위한 거버넌스를 구축해야 한다.

차별화 요소로서 데이터

높은 품질의 맞춤화된 데이터 확보를 해야한다.

데이터 보안 및 거버넌스 체계를 구축해야 한다.

미래 지향적 데이터 통합 및 확장성을 고려해야 한다.

민첩하거나 뒤처지거나

기업 내 조직간 동의를 위한 탑-다운 접근법

탑-다운으로 동의되었다면, 기업 전체를 포괄하는 데이터 전략 수립이 필요하다.

작게 시작하고 실패하는 실패 문화를 육성해야 한다.

Amazon Q Developer로 실현하는 개발 생산성 혁신

AI 코딩 어시스턴트

2028년까지 기업 소프트웨어 엔지니어의 75%가 AI 코드 어시스턴트 사용 예상

AI 코드 어시스턴트는 40-60%의 상황에서 작업의 40-80%를 자동화 가능

하지만 일반적인 소프트웨어처럼 완벽한 동작을 기대할 수 없다.

따라서 우리를 대체하는 것이 아니라 함께 사용해야 할 존재로 인식해야 한다.

Amazon Q Developer 및 Agent 역할

Amazon Q Developer의 핵심 기능

• @workspace: 코드 맥락 이해 및 대화 기반 코드 생성
• /dev: 코드 생성
• /test: 단위 테스트 자동 생성
• /review: 코드 이슈 식별 및 수정
• /doc: 코드 문서화
• /transform: 코드 변환

Amazon Q Developer Chat 기능

주로 Chat 기능을 사용해 개발자와 상호작용한다.

• 코드 관련 질문 응답
• 코드 샘플 변환 (다른 언어로 변환)
• 코드 리팩토링 및 최적화
• 코드 오류 수정 제안
• Amazon Q Developer Inline Chat 기능을 제공하며, IDE 내에서 코드와 직접 상호작용 (단축키: Mac ⌘ + I, Windows Ctrl + I)
• 코드 최적화, 리팩토링, 주석 추가, 테스트 코드 생성 가능

코드 이해 및 문서화

• Amazon Bedrock RAG 기반 코드 분석 및 문서화 지원
• 채팅 기반 코드 이해의 한계 해결
• @workspace 활용: 특정 파일을 기반으로 코드 문서 자동 생성

코드 시각화

• PlantUML을 이용한 시퀀스 다이어그램 생성
• AWS Infrastructure Composer 활용한 CloudFormation 시각화
• Mermaid/PlantUML을 이용한 CloudFormation 시각화 및 다이어그램 변환

Code 변환 Agent

자전거 면허 애플리케이션 예제 (Java 11 → Java 17 변환)

레거시 코드를 최신 코드로 변환하는 작업

• CloudFormation 스택 배포 및 Java 애플리케이션 테스트
• 코드 변환 실행 및 Transformation Plan 생성
• 새로운 인터페이스 메서드 구현 후 테스트

단순히 백엔드 서버 코드뿐만 아니라 인프라 코드를 활용할 수도 있다.

보안 취약점 스캐닝 및 코드 리뷰

Amazon Q Developer 보안 기능

• 코드의 보안 취약점 자동 탐지
• 코드 리뷰 기능을 통한 코드 품질 향상 및 문제 해결 지원

기능 개발을 위한 에이전트

• AI 기반 코드 생성 및 기능 개발 자동화 지원

물론, 모든 수준의 코드가 완벽한 것은 아니므로 AI의 추천 코드를 원하지 않는다면 ignore 할 수 있다.

세 줄 요약

Amazon Q Developer는 코드 생성, 리뷰, 문서화, 시각화 등 다양한 기능 제공

코드 생성 시 올바른 프롬프트 작성이 중요

• 파일 지정, 단위 테스트 요청, 프레임워크 버전 명시, 데이터 형식 제공 등

AI 기반 코딩 어시스턴트 활용으로 개발 생산성 향상 가능

롯데멤버스의 Amazon Bedrock을 이용한 고객 세그먼트 분석 및 트렌드 예측 서비스 구축기

금융 규제 준수를 고려한 AI 활용 방안이 모색되어야 한다.

데이터 기반으로 고객을 분석하고, 트렌드를 예측해야하며 이를 AI 모델에 활용하는 전략을 사용해야 한다.

롯데멤버스의 생성형 AI 활용 요구사항

• 주요 사업: 전자지급결제(L.PAY), 선불전자지급수단(L.POINT) 운영, 금융업무 수행
• 과제: 금융 규제 준수, 생성형 AI 도입, 시장 변화 대응

금융업권의 AI 도입 규제 및 해결책

망분리 규제 변화 흐름

• 2013년: 금융·언론사 전산망 마비 사건 이후 망분리 규제 도입
• 2022년: 연구·개발망에 대한 예외 허용
• 2023년~2024년: 금융권 클라우드 기반 SaaS 활용 특례 및 망분리 규제 완화 논의

규제 샌드박스 활용

• 신기술 도입 시 일정 조건 내에서 제한적 실증을 통한 검증 가능

Amazon Bedrock을 활용한 AI 서비스 구현

AI 애플리케이션 도입의 어려움

• 모델 선택, 데이터 보호, 다중 데이터 소스 통합, 인프라 관리

Amazon Bedrock의 역할

• 단일 API를 통해 다양한 파운데이션 모델(FM) 지원
• 모델 사용자화, RAG(Retrieval-Augmented Generation) 지원
• 보안 및 규제 준수 기능 제공

Amazon Bedrock 기반 AI 아키텍처

데이터 활용 방식

• 내부 데이터(세그먼트, 구매 패턴) + 외부 데이터(뉴스, SNS) 결합
• 자동화된 트렌드 분석 및 보고서 생성

Amazon Bedrock 지원 모델

• Amazon Titan, Claude, Llama, Mistral, Jamba 등 다양한 AI 모델 지원

Amazon Bedrock Guardrails

• 유해 콘텐츠 필터링, 개인정보 보호, 편향 제거, 주제 필터링 기능 제공

AI를 활용한 고객 세그먼트 분석 및 트렌드 예측

고객 세그먼트 정의

• 소비 패턴(온라인 vs 오프라인), 구매 주기(고빈도 vs 저빈도), 라이프스타일(여행, 외식, 금융 활동 등) 분석

트렌드 예측 서비스 개념

• 고객 데이터 + 뉴스/SNS 데이터 분석 → AI 기반 트렌드 인사이트 제공
• 최신 트렌드 반영 및 세그먼트별 맞춤 분석 자동화

AI 서비스 개발 및 운영 전략

개발 로드맵

• 2023년: PoC 진행 (기술 타당성 검토)
• 2024년: MVP 개발, 클라우드 인프라 구축, 데이터 결합 분석
• 2025년: 시범 서비스 오픈, SNS 급등 키워드 반영
• 2026년: 서비스 고도화, 롯데멤버스 AI 기반 서비스 연계

핵심 기술

• 클라우드 인프라 최적화: 온디맨드, 약정 계약, 스팟 인스턴스 활용
• Amazon Bedrock 기반 AI 모델: 다양한 FM 모델 실험 및 최적화
• AI 아키텍처 설계: Kubernetes 기반 AI 서비스 운영, Amazon EKS 활용

AI 기반 고객 분석 서비스 구성

서비스 노드

• 웹 크롤링, 데이터 수집, ETL 파이프라인, 데이터 저장 (Aurora, OpenSearch, S3)

AI 추론 노드

• Amazon Bedrock을 활용한 AI 추론 및 보고서 자동 생성

서비스 흐름

• 데이터 수집 → AI 모델 분석 → 트렌드 보고서 생성 → 맞춤형 인사이트 제공

AI 기반 보고서 및 분석 서비스

Segment Lab 서비스

• Monthly Report: 세그먼트별 월간 리포트 및 트렌드 예측
• Custom Report: 사용자 맞춤형 보고서 생성
• 사용자 여정 지원: 질의응답, 맞춤형 분석 제공

요약

• 데이터의 양과 질이 확보되어야 AI의 활용 가능성이 무궁무진
• 금융권에서 AI를 도입할 때는 컴플라이언스 대응이 필수, 필요에 따라 규제 샌드박스를 활용할 것
• AI는 독립적인 기술이 아니라, 사용자에게 실질적인 가치를 제공하는 도구
• 클라우드 인프라 최적화 및 AI 모델 성능 개선을 통해 비용 절감과 운영 효율성 극대화 가능
• Amazon Bedrock을 통해 다양한 파운데이션 모델을 활용하여 맞춤형 AI 서비스 구축 가능

AWS Innovation DB, AI 편 후기

개인적으로는 나름의 인사이트를 얻었다고 생각하는 컨퍼런스였다.

하지만 아이러니하게도 난이도는 AWS 입문자가 볼 수준의 컨퍼런스라기 보다는 업무에 어떤 AWS 솔루션을 탑재할지 고민하는 업무 결정권자들이 보기 좋은 수준이었다.

한국에서는 어떻게 AI가 보안 컴플라이언스를 준수하며 실제 프로덕트에 적용되고 있는지가 궁금했었는데, 롯데멤버스 사례에서 규제 샌드박스를 활용했다는 말이 인상적이였다.

앞으로 개인이 할 수 있는 업무 생산성이 더욱 향상될텐데, 그만큼 주변에 있는 도구들을 잘 사용해야 될 것 같다.

특히나 코드 어시스턴트의 경우 나의 백엔드 개발 실력 향상에 오히려 방해물이 될 것 같아 흥선대원군식 운영으로 배척하는 마음을 조금이나마 가지고 있었는데, 거두어도 될 것 같다.

대규모 언어 모델을 기반으로 학습한 데이터로 추천을 해주는 것이기 때문에 실제 해외의 엔지니어들도 전부 다 활용하지는 않는다고 한다.

변화를 무서워하기 보다는 오히려 변화를 타고 올라가면 가파른 성장을 노려볼 수 있을 것 같다.

그리고 한편으로는 AI 배경 지식이 많이 부족하다는 것도 느낄 수 있었다.

앞으로 공부해야 할 것들이 많아져 재밌기도 하다.