行為生態學始於1960年代。現學科體系尚不完整，內容與方法比較雜亂。是最年輕的邊緣交叉學科之一，最初沒有很明確的學科邊界。
行為生態學與適應主義生理學的創新[行為生態學學科簡介1973年K。Lorenz,N.Tinbergen,K.Frisch三位學者因有關動物行為與生態因素的開創性研究而獲得Nobel生理學獎之後強烈地鼓舞和推動了這一領域的開拓與發展。
行為生態學主要是從生態學的角度研究動物的行為機制和動物行為的生態學意義與進化意義。在動物物種分類學的研究中，最初所重視的研究角度是動物的形態特性和生理特性。但行為生態學的研究證明：動物的行為特性也與動物的形態特性和生理特性一樣，也是在長期進化過程中通過自然選擇形成的，同樣受到遺傳和環境兩方面的影響。同樣具有種的特異性。基於這一研究，兩個在形態特性上難以區分的近緣動物物種，可以求助於行為特性的比較。即通過兩者不同的行為型加以辯識。行為型常常是近緣物種的種間隔離和種間辯識的一個重要參考角度。
動物的行為型間隔的起源追蹤最早始於達爾文。達爾文在重點論證了生物形態進化的同時，曾在1859年出版的《物種起源》中的第八章，1872年出版的《人類及動物的情緒》一書中，都曾系統地研究了行為的進化問題。儘管當時他對利他行為和中性不育昆蟲的行為疑惑不解，但達爾文相信，一切複雜和神秘的行為型，都必然經歷過一個自然選擇進化過程。行為生態學正是在達爾文開闢而未競的道路基礎上，將傳統的動物行為研究與新興的生態學理論綜合而成的產物。行為生態學已經在理論上和方法論上都取得了很多突破，產生了很多新理論雛形、新角度和新方法雛形。研究的角度和方法各不相同並互有重疊或矛盾，但最後都匯集到統一的學科領域中，這歸功於行為生態學的總目標是一致的，即以研究行為和生態的功能生成與適應關係為最高目標。
儘管行為生態學的研究方法和理論學說仍處在比較初期和混亂的狀態中，但從上述不同的多角度、多方法中仍然可以區分出兩大研究方向和發展趨勢。第一大研究方向與發展趨勢是動物的“行為生態對策”研究方法及其發展。主要有以下方面：（1）ESS理論，即進化穩定對策。（2）近緣比較研究法，即對近緣物種的行為和社會結構與其生態條件聯繫起來進行比較研究，以確定行為的適應性；（3）動物行為存活值和適合度的定量測定法；（4）最大淨收入對策，經濟學思想和方法（如投資－收益分析）在行為生態學中的套用，即行為生態的經濟對策分析；最優覓食對策：性的經濟學（5）行為分析的基因觀，利他行為、親緣選擇和廣義適合度理論；（6）最適理論和最適模型的運用；（7）動物戰鬥行為生態對策，博弈論在分析動物行為中的套用。（8）性選擇行為生態對策，關於兩性利益衝突的新理論；（9）關於種群內行為對策歧化平衡的新概念；（10）三種選擇理論，個體選擇、親緣選擇和群選擇；（11）生殖行為生態對策；交配機制和交配對策：（12）信號對策與通訊效益理論；如蜜蜂舞蹈語言研究的最新進展，蜜蜂的學習能力和覓食的信息中心對策，（13）社群行為生態對策,靈長動物的社會策略,動物社會行為的進化,哺乳動物、鳥類和魚類的社會學；鳥類的生死合作，猿猴社會的互助、合作和利他主義。
