KI-Assistenten haben sich in kürzester Zeit weit verbreitet, auch in der Software-Entwicklung. Chatbots wie ChatGPT und andere LLM-basierte Tools wie GitHub Copilot werden mittlerweile häufig genutzt, beispielsweise um Code zu generieren. Auch wenn KI-Assistenten die Produktivität möglicherweise erhöhen, so gibt es einige Sicherheitsprobleme, die durch die Nutzung dieser Tools auftreten können und bedacht werden müssen. Wir stellen aktuelle Forschungsergebnisse vor, um für das Thema zu sensibilisieren.