ในตอนต้นของปี 1994 ปริญญาเอกสองคน เจอร์รี่หยาง (Jerry Yang) (เกิด 6 พฤศจิกายน 2511 ในไทเปไต้หวัน) ผู้สมัครสาขาวิศวกรรมไฟฟ้าที่มหาวิทยาลัยสแตนฟอร์ด และเดวิดฟิโล (David Filo) (เกิด 20 เมษายน 2509 ในวิสคอนซิน) กำลังมองหาเครื่องมือบนเว็บไซต์อินเตอร์เน็ตที่สามารถเป็นไกด์แนะนำท่องเวิร์ลไวด์ได้ พวกเค้าทั้งสองเลยตัดสินใจสร้างมันขึ้นมาเอง
ก่อนที่จะมาเป็นชื่อเว็บ Yahoo ในตอนแรก มีชื่อว่า“ Jerry and David’s Guide to the World Wide Web” (ไกด์แนะนำท่องเวิร์ลไวด์เว็บของเจอร์รี่) เว็บที่คอบรวบรวมเว็บลิงก์ที่น่าสนใจ จัดแยกไว้เป็นหมวดหมู่ที่ชัดเจนทำให้การค้นหาง่ายมากขึ้น จนทำให้เว็บได้รับความนิยมอย่างแพร่หลาย จึงเปลี่ยนชื่อเป็น Yahoo! ซึ่งเป็นตัวย่อของ“ Yet Another Hierarchical Officious Oracle” และหยางเป็นคนตัดสินใจที่จะใช้ชื่อนี้กับเว็บไซต์ของพวกเค้า
โดเมนของ Yahoo ถูกสร้างขึ้นถูกสร้างขึ้นเมื่อวันที่ 18 มกราคม 1995 เนื่องจากปริมาณการใช้งานที่มากและการต้อนรับที่ดีมากขึ้นอย่างต่อเนื่อง ในเดือนมีนาคม พ.ศ. 2538 ทั้งคู่ได้รวมธุรกิจ และออกพบปะกับผู้ร่วมทุนจาก ซิลิคอนวัลเลย์ หลายสิบรายเพื่อหาแหล่งเงินทุน ในที่สุดพวกเขาก็ได้พบกับ Michael Moritz จากSequoia Capital บริษัทที่ได้รับการยกย่องเกี่ยวกับผู้ที่ลงทุนและประสบความสำเร็จมากที่สุด ซึ่งมีตั้งแต่ Apple Computer, Atari, Oracle และ Cisco Systems Sequoia Capital ทางฝั่งนายทุน ตกลงที่จะให้ทุนแก่ Yahoo! ในเดือนเมษายน 1995 ด้วยเงินลงทุนครั้งแรกเกือบ 2 ล้านดอลลาร์
บริษัท ใหม่ของพวกเขามีศักยภาพที่จะเติบโตได้อย่างรวดเร็ว ซึ่งแน่นอนว่าไม่สามารถบริหารงานแค่ 2 คนได้แล้ว จึงมีการเลือกซื้อทีมผู้บริหารเกิดขึ้น พวกเขาว่าจ้าง Tim Koogle ซึ่งเป็นผู้มีประสบการณ์ของ Motorola เป็นประธานเจ้าหน้าที่บริหารและ Jeffrey Mallett เข้ามาเช็คความเรียบร้อยของแผนกผู้บริโภค WordPerfect consumer division ป็นประธานเจ้าหน้าที่ฝ่ายปฏิบัติการ ลังจากได้รับเงินทุนรอบที่สองในฤดูใบไม้ร่วงปี 1995 และการเสนอขายครั้งแรก Yahoo ระดมทุนได้ 33.8 ล้านดอลลาร์ในเดือนเมษายน ค.ศ. 1996 โดยมีพนักงานทั้งหมดเพียงแค่ 49 คน เท่านั้น
Yahoo ทำการ เข้าซื้อ บริษัท ต่างๆเช่น Rocketmail และ ClassicGames.com ซึ่งในที่สุด ก็กลายเป็น Yahoo! Mail และ Yahoo! ตามลำดับ แน่นอนว่าการทำธุรกิจไม่ได้แน่นอนอย่างที่เราคิดในช่วงปี 2001–02 ทางบริษัทประสบปัญหาทางเศรษฐกิจอย่างหนัก แถมช่วงนี้เจ้าภาพอย่าง Google ก็เข้ามาเป็นคู่แข่งสำคัญในอุตสาหกรรมเครื่องมือค้นหา เป็นเวลาหลายปีในความพยายามที่จะอ้างสิทธิ์ในส่วนแบ่งตลาดที่ใหญ่ขึ้น Yahoo! เปิดตัว Yahoo! Instant Messenger ซื้อจากเครือข่ายอินเทอร์เน็ตภาพ Flickr, รวมมากมายของคุณสมบัติอื่น ๆ และได้รับส่วนแบ่งร้อยละ 40 ของบริษัท e-commerce จีน,อาลีบาบา
ในเดือนกุมภาพันธ์ 2551 Microsoft Corporation เสนอซื้อ Yahoo! เป็นเงิน 44.6 พันล้านดอลลาร์ แต่ข้อเสนอนี้ถูกปฏิเสธโดย Yahoo แบบไม่ไยดี จากนั้น Microsoft ก็ยกเลิกข้อเสนอดังกล่าว ถึงข้อเสนอในการซื้อจะถูกปัดตกไป ทางฝั่ง Microsoft ยังเข้าไปยื่นข้อเสนออยู่เรื่อยๆ และในวันที่ 28 กรกฎาคม 2009 ทาง Yahoo ตกลง จะใช้เครื่องมือค้นหาของ MicrosoftBing สำหรับเว็บไซต์ของตัวเอง และจะจัดการโฆษณาระดับพรีเมียมสำหรับเว็บไซต์ของ Microsoft ซึ่งการเซ็นต์สัญญาในครั้งนี้เป็นแบบระยะยาวนานถึง 10 ปี
เมื่อวันที่ 15 กรกฎาคม 2012 Marissa Mayer อดีตผู้บริหารจาก Google ได้รับแต่งตั้งให้เป็นประธานและซีอีโอของ Yahoo ตั้งแต่วันที่ 17 กรกฎาคม 2012
วันที่ 19 พฤษภาคม 2013 คณะกรรมการ Yahoo ได้รับการอนุมัติ $ 1.1 พันล้านซื้อของบล็อกเว็บไซต์Tumblr และผู้ก่อตั้ง Tumblr จะยังคงเป็นผู้ถือหุ้นรายใหญ่ การประกาศดังกล่าวแสดงให้เห็นถึงแนวโน้มการเปลี่ยนแปลงในอุตสาหกรรมเทคโนโลยีเนื่องจาก บริษัท ขนาดใหญ่เช่น Yahoo, Facebook และ Google ได้เข้าซื้อ บริษัท อินเทอร์เน็ต ถึงแม้ว่าจะเป็ยบริษัทไม่ใหญ่มาก แต่การยายเครื่อข่ายลักษณะนี้ทำให้สามารถเชื่อมต่อกับชุมชนออนไลน์ได้อย่างรวดเร็ว The Wall Street Journal พูดว่า การซื้อ Tumblr นั้นทำให้ Yahoo กลับมาเป็น ศูนย์กลางเครือข่ายสังคมและการสื่อสารที่ได้รับความนิยมได้เหมือนเดิม เมื่อวันที่ 20 พฤษภาคม บริษัท ได้ประกาศการเข้าซื้อกิจการ Tumblr อย่างเป็นทางการ การทำสัญญากินเวลาเกือบหนึ่งเดือน หลังจากทำธุรกรรมเสร็จสิ้น บริษัท ยังประกาศแผนการที่จะเปิดสำนักงานในซานฟรานซิสโกในเดือนกรกฎาคม ค.ศ. 2013
ภายในไตรมาสที่สี่ของปี ค.ศ. 2013 ราคาหุ้นของ บริษัท เพิ่มขึ้นกว่าสองเท่านับตั้งแต่ Marissa Mayer เข้ารับตำแหน่งประธานในเดือนกรกฎาคม 2012 อย่างไรก็ตามราคาหุ้นพุ่งสูงสุดที่ประมาณ 35 ดอลลาร์ในเดือนพฤศจิกายน 2013 ขึ้นไปถึง 36.04 ดอลลาร์ในช่วงบ่ายของวันที่ 2 ธันวาคมค.ศ. 2015 ในระหว่างการดำรงตำแหน่งของ Mayer รวมถึงการเข้าซื้อ Tumblr มูลค่า 1.1 พันล้านดอลลาร์ที่ไม่ค่อยเห็นประโยชน์หรือเรียกว่ามันยังไม่คืนทุนเท่าที่ควร
รายงานเมื่อวันที่ 2 กุมภาพันธ์ 2016 Marissa Maye ซีอีโอ Yahoo เตรียมที่จะตัดพนักงานในบริษัทออก 15% ของพนักงานเพื่อที่จะประหยัดเงิน
เมื่อวันที่ 8 มิถุนายน 2017 ผู้ถือหุ้น Yahoo อนุมัติการขายทรัพย์สินทางอินเทอร์เน็ตบางส่วนของ บริษัท ให้กับ Verizon ในราคา 4.48 พันล้านดอลลาร์ปิดข้อตกลงอย่างเป็นทางการในวันที่ 13 มิถุนายน 2017 ในข่าวประชาสัมพันธ์ตั้งแต่วันที่ 3 ตุลาคม 2017 Oath Inc.ซึ่งเป็น บริษัท ย่อยของ Verizon ระบุว่าบัญชีผู้ใช้งาน Yahoo ทั้งหมดประมาณ 3 พันล้านบัญชี ได้รับผลกระทบจากการโจรกรรมในเดือนสิงหาคม 2013