Innovation in LLM