작동하는 빌딩 자동화: LLM을 갖춘 MVP의 교훈

인공지능(AI)과 같은 신기술은 10년이 지나면서 더욱 두드러질 것입니다. 그 결과, 기업들은 직장에서 사람들이 직면하는 단순한 작업을 줄이는 통합 시스템으로 전환하고 있습니다. 아파리메야 타네자 개발자이자 엔지니어링 전문가인 그는 자신의 경력을 대규모와 스타트업 모두에서 솔루션을 구축하는 데 바쳤습니다. DoorDash와 Fulcrum Tech에서의 경험을 바탕으로 그는 MVP에서 완전히 배포된 에이전트 솔루션으로 자동화를 확장하는 데 따른 실질적인 과제와 기회를 강조합니다.

기술 전문가 Aparimeya Taneja를 소개합니다

고등학교 때, 아파리메야는 STEM 분야에서 가능성을 보여 엔지니어링 분야에서 경력을 쌓게 되었습니다. 아파리메야는 듀크 대학교를 조기 졸업한 후 공식적으로 엔지니어링 경력을 시작했습니다. 학업을 마친 직후, 그는 DoorDash의 새로운 수직 조직에 검색 경험 팀의 일원으로 합류했습니다.

아파리메야는 새로운 수직형 머신 러닝(ML) 팀으로 전환하기 전에 이 팀에서 1년을 보냈으며, 그곳에서 기술적 능력을 연마하고 자동화 프로젝트에 6개월 이상 기여한 후 새로운 수직형 카탈로그 팀으로 옮겨 6개월 더 근무했습니다.

그는 대규모 조직에서 근무 경험을 쌓은 후 소프트웨어 개발, 금융 서비스 등의 산업을 위한 채용 솔루션에 중점을 둔 스타트업인 Paraform에 입사했습니다.

그 후 그는 합류했다 지점 창립 엔지니어로서 자동화 전문 지식을 보험 산업에 적용했습니다. Fulcrum은 중개업체가 직원 수를 늘리지 않고도 계정을 확장할 수 있는 안전한 AI 제품을 제공합니다. Aparimeya의 자동화 솔루션 우선 순위는 기술 회사의 지속적인 성장을 지원했습니다.

LLM을 통한 자동화를 위한 MVP 구축

DoorDash에서 근무하는 동안 Aparimeya는 BPO에 아웃소싱된 작업의 자동화를 위한 MVP를 개발하는 노력을 주도했습니다. 그의 기여로 회사의 ML 및 자동화 팀과 협업할 기회가 생겼습니다. 그는 많은 조직이 일반적으로 수백만 달러를 지출하는 수동 아웃소싱 작업을 자동화하는 LLM의 잠재력을 보았습니다. DoorDash를 통해 그는 다양한 비즈니스 프로세스를 간소화하는 LLM 기반 프로젝트를 수행할 수 있었습니다.

Aparimeya는 DoorDash에서 자동화 사용을 제안한 최초의 개발자였으며 주목할만한 언급 그의 노고에 대한 보상입니다. LLM을 사용하여 그는 같은 생각을 가진 전문가 팀과 협력하여 회사의 제품 지식을 구축했습니다.

그의 업무에는 개인화, 선택 및 이행을 개선하는 제품 지식 시스템을 구축하는 것이 포함되었습니다. 불완전한 데이터 및 추론적 추론과 같은 과제를 해결함으로써 Aparimeya는 DoorDash의 운영을 최적화하는 데 도움을 주었습니다.

그는 이러한 프로젝트 중 다수에서 중요한 역할을 했지만, Aparimeya는 DoorDash와 같은 대규모 조직에서 MVP를 발전시키는 데 많은 어려움을 겪었습니다. 회사의 자동화 솔루션을 구축하고 몇 가지 MVP를 작업한 후, 그는 정기적인 프로젝트로 돌아가야 했습니다.

대규모 조직의 제약으로 인해 이러한 프로젝트를 완료할 수 있는 능력이 제한되었습니다. 이를 통해 Aparimeya는 초기 단계의 스타트업에서 일하고 싶다는 것을 깨달았고, 이를 통해 Fulcrum Tech로 옮겨 회사의 기술 직원과 함께 프로젝트를 이끌었습니다.

Fulcrum에서는 데이터 처리, 모델 학습, 확장성과 같은 문제가 발생하기 시작했습니다. 이러한 문제는 종종 복잡하고 기술적으로 어려웠으며, Aparimeya와 같은 전문가에게도 마찬가지였습니다. 이러한 장애물에도 불구하고 그는 브로커를 괴롭히는 수동 프로세스를 자동화하여 비용을 절감하고 작업에 걸리는 시간을 몇 시간에서 몇 분으로 줄이면서 적응력을 높이기 위해 끊임없이 노력했습니다.

확장 가능한 자동화 솔루션 구축을 위한 모범 사례

DoorDash와 Fulcrum에서 Aparimeya의 작업은 자동화 솔루션을 통해 비즈니스 프로세스를 강화했습니다. 그는 MVP에서 실제 애플리케이션으로 확장하면 중개업체가 비용을 균형 있게 조정하고, 효율성을 높이고, 사용자 채택을 향상시켜 궁극적으로 워크플로를 간소화할 수 있다고 언급합니다.

Aparimeya는 자신의 경험을 바탕으로 확장 가능한 자동화 솔루션을 구축하기 위한 전략적 접근 방식을 옹호합니다. 그에게 가장 중요한 모범 사례는 다음과 같습니다.

비용 대비 가치 제공의 균형

Aparimeya의 경험에 따르면 자동화 솔루션은 일반적으로 최종 고객에게 제공되는 결과/산출물에 따라 가격이 책정되므로 자동화를 실행하는 데 드는 운영 비용이 단위당 경제성이 마이너스가 되지 않도록 하는 것이 중요합니다.

고객에게 창출된 가치는 자동화 없이 동일한 결과물에 도달하는 데 소요된 시간, 품질, 비용의 차이입니다. 솔루션이 있는 경우와 그렇지 않은 경우입니다. 따라서 AI 제품을 구축할 때 자신과 고객에게 어떻게 가치를 창출하는지 항상 명확하게 알고 있어야 합니다.

규모에 맞춰 비정형 데이터 저장

Aparimeya는 데이터 저장에 대해 생각할 때 해결해야 할 핵심 객체는 다음과 같다고 강조합니다.

1. 확장성을 지원하는 중복성과 인프라를 갖춘 강력한 데이터 스토리지 시스템. 이를 통해 기업은 정보에 안전하게 액세스하고, 보호하고, 복구할 수 있습니다. 엔터프라이즈급 SQL 서비스는 시작하기에 좋은 솔루션입니다.

   
   

2. 기능과 워크플로를 구축하기 위한 풍부한 지식 그래프. 이는 솔루션을 구축하는 도메인에 따라 달라지며 오늘날 사용자가 워크플로를 수동으로 수행하는 방식에 대한 심층적인 이해가 필요합니다. 일반적으로 모든 데이터를 스토리지 객체 또는 JSON 블롭으로 덤프하는 대신 주요 데이터 포인트를 추출하여 인덱싱하기 쉬운 방식으로 저장하는 것이 항상 더 유용합니다.

사용자 채택 평가

Aparimeya는 그의 작업 전반에 걸쳐 사용자 채택이 성공적인 자동화 프로세스를 구현하는 데 또 다른 중요한 구성 요소라는 것을 인식했습니다. 교육 프로그램과 같은 이니셔티브는 사용자에게 업그레이드된 프로세스를 자신 있게 운영할 수 있는 능력을 제공하는 데 필수적이며 자동화 솔루션의 기능을 더욱 촉진할 수 있습니다. 기업은 피드백을 수집하고 사용자 인터페이스를 그에 따라 사용자 지정하여 사용자 채택을 균형 있게 조절하는 동시에 잠재적으로 타사 애플리케이션을 통합할 수 있습니다. Fulcrum의 경우 Aparimeya와 그의 팀은 고객의 AMS(Agency Management System)와 직접 통합합니다.

사용자 참여도를 정량적으로 접근하는 또 다른 효과적인 방법은 사용자 세션을 기록하는 애플리케이션을 통한 원격 측정과 더 많은 기능을 제공함에 따라 시간에 따른 사용 추세를 관찰하기 위한 사용 통계를 생성하는 것입니다.

속도 유지

자동화 시스템은 작업 프로세스를 간소화할 수 있지만, 종종 과부하가 발생하기 쉽고, 가시성이 부족하여 최종 사용자에게 느리게 보일 수 있습니다. 따라서 엔드 투 엔드 자동화에서 가능한 한 많은 작업을 병렬화하고 장기 실행 작업을 처리하기 위해 강력한 대기열을 사용하는 것이 중요합니다. 중복 작업을 줄이고 더 많은 리소스를 프로비저닝하여 속도를 높일 수도 있습니다.

아파리메야는 시스템 병목 현상이 어느 한 중요한 지점에 존재하지 않고, 리소스가 유휴 상태가 아니거나 항상 과부하 상태가 되지 않도록 애플리케이션 아키텍처를 설계한다고 믿습니다.

관찰 및 최적화

자동화 시스템은 모든 프로세스가 예상대로 작동하는지 확인하기 위해 지속적인 모니터링이 필요합니다. 자동화된 워크플로를 감독하면 기업은 전체 프로세스에 병목 현상이 되는 구성 요소를 쉽게 식별하고 주어진 순간에 모든 다양한 마이크로서비스의 상태를 알 수 있습니다. 회사가 시스템 성능을 정기적으로 모니터링하면 장기적인 자동화 프로세스를 최적화하는 방법을 개발할 수 있습니다.

아파리메야는 이러한 종류의 모니터링이 사용자에게 보이는 최종 출력까지 확장되어야 하며, 이를 통해 사용자 경험을 항상 반복할 수 있어야 한다고 주장합니다.

제품 피드백 루프

배송 기능과 자동화는 좋은 솔루션 플랫폼이 해야 할 일의 절반에 불과합니다. 새로운 기능이나 워크플로가 출시될 때마다 내부 테스트와 별도로 먼저 선택된 사용자에게 출시해야 합니다. 그런 다음 이 파일럿 그룹에서 자세한 피드백을 수집하여 향후 반복 작업을 개선해야 합니다. 제품 로드맵을 유지하는 것이 중요하지만, 가장 중요한 작업을 결정할 때는 항상 사용자 피드백을 고려해야 합니다.

자동화 분야에 진출하는 엔지니어를 위한 Aparimeya Taneja의 조언

아파리메야 타네자는 야심 찬 엔지니어가 자동화 기술의 세계로 발을 들여놓을 때 컴퓨팅이나 엔지니어링 분야에서 탄탄한 기초를 쌓도록 격려합니다. 그는 강력한 프로그래밍 및 소프트웨어 개발 기술이 성공을 크게 향상시킬 수 있다고 강조합니다. 자동화할 도메인에 대한 친숙함도 필수적입니다. 그 지식은 단순한 채팅 봇보다 훨씬 더 많은 가치를 제공하는 심층적인 기술 솔루션을 제공하는 데 도움이 되기 때문입니다.

엔지니어는 자동화 솔루션을 만들 때 기술적 기술 외에도 사용자 인터페이스(UI)와 사용자 경험(UX) 디자인을 우선시해야 합니다. 접근성과 사용 편의성을 보장하면 이러한 도구의 효과와 채택을 개선할 수 있습니다. Aparimeya는 또한 잠재력을 극대화하기 위해 자동화 시스템을 구현하는 데 있어 창의적인 사고의 중요성을 강조합니다.

앞으로 Aparimeya Taneja는 자동화가 비즈니스 프로세스에 원활하게 통합되어 인간 근로자의 반복적인 작업을 줄이는 미래를 구상합니다. 그는 자신의 전문 지식을 공유함으로써 미래에 자동화를 산업 전반의 표준 관행으로 만들고자 합니다.