İş kariyerine ABD’de 2006 yılında Intel’de araştırma ve geliştirme (Ar-Ge) mühendisi olarak başlayan Dr. Ali Taha Koç, buradaki görev süresi boyunca 61 patent geliştirmiştir ve 23 makalesi bilimsel dergilerde yayımlanmıştır. Intel’de birçok uluslararası proje geliştirip yönetmiştir, 2013 yılında en çok patent üreten ve ödül alan 10 mühendisten biri olmuştur. 2014 yılında Türkiye’ye dönüşü sonrasında Başbakanlık Başmüşaviri olarak göreve başlamış ve aynı yıl Cumhurbaşkanlığı Bilgi Teknolojileri Başkanlığı’na atanmıştır. Eş zamanlı olarak tüm bakanlıklardan ve güvenlik birimlerinden bilgi akışını sağlayan Cumhurbaşkanlığı Devlet Bilgi Koordinasyon Merkezi’nin (DBKM) kurulum sürecini yönetmiştir. 12 Eylül 2018 tarihinde Cumhurbaşkanlığı Dijital Dönüşüm Ofisi Başkanlığı’na atanmıştır. Cumhurbaşkanlığı’ndaki görevlerinin yanı sıra TÜRKSAT Uydu Haberleşme Kablo TV ve İşletme A.Ş. Yönetim Kurulu Üyesi olarak görev yapmıştır.

Ekim 2023’ten itibaren Turkcell Genel Müdürü olarak görev yapan Dr. Ali Taha Koç, Mobil Telekomünikasyon Operatörleri Derneği (m-TOD) Yönetim Kurulu Başkanlığı’nın yanı sıra Uluslararası GSM Birliği GSMA, Türkiye’nin Otomobili Girişim Grubu (TOGG) ve Silk Road Temiz Enerji Depolama Teknolojileri (Siro)Yönetim Kurulu Üyesi’dir.

ULAK Haberleşme A.Ş. Yönetim Kurulu üyesi olarak görev yapmaktadır.